Los principales desarrolladores chinos de inteligencia artificial lanzan modelos con menos capacidad para ayudar en ciberataques, según informó Bloomberg el 16 de noviembre. Los últimos sistemas de Alibaba, Tencent y Moonshot AI tienen habilidades ofensivas reducidas, después de que el gobierno chino propusiera prohibir la exportación de esa tecnología.
Según Bloomberg, esos modelos mejoraron sus funciones defensivas, es decir, las que sirven para detectar fallas en programas informáticos. Alibaba presentó la última versión de su serie Qwen sin sus "pesos", los ajustes internos que determinan cómo responde un modelo, de modo que los usuarios no pueden descargarlo ni personalizar la versión completa.
Los modelos de pesos abiertos, que cualquiera puede descargar y ejecutar en su propia computadora, resultan atractivos para los hackers porque se pueden configurar a voluntad. La agencia de noticias señaló que los modelos de DeepSeek son especialmente populares y que la familia Qwen figura entre las más descargadas del mundo.
Tencent quitó funciones de ciberataque de su modelo Hy4 antes de lanzarlo a comienzos de noviembre. Moonshot AI hizo algo parecido con Kimi K3.1 Pro, publicado en octubre, según el South China Morning Post. La empresa Z.AI, por su parte, revisó la seguridad de GLM-5.3 y alertó a organizaciones sobre fallas del sistema antes de abrirlo en agosto.
El 16 de octubre, el Ministerio de Comercio chino publicó un borrador para restringir o prohibir la exportación de 40 tecnologías, entre ellas inteligencia artificial, chips y energía solar, según AP. Un vocero del ministerio calificó la medida de "necesaria" y mencionó la seguridad nacional entre sus razones.
Según Bloomberg, el plan prevé vetar las herramientas de IA capaces de atacar infraestructura crítica, redes del gobierno o blancos militares. Los modelos considerados "líderes mundiales" también podrían quedar sujetos a restricciones para su uso en el extranjero. Se trata de una propuesta, no de una norma vigente.
A comienzos de noviembre, la Comisión Nacional de Desarrollo y Reforma, el principal organismo de planificación económica de China, informó que acelera nuevas normas de seguridad y pautas éticas para los desarrolladores de IA. Un funcionario dijo que existe un amplio consenso sobre las oportunidades y los riesgos de esta tecnología.
Charles Li, analista jefe de TeamT5, organización que sigue la actividad cibernética en Asia y el Pacífico, afirmó que China intenta equilibrar la comercialización internacional con el control estratégico de su IA. A su juicio, Beijing considera cada vez más estas capacidades como activos estratégicos que justifican controles más estrictos.
El mes pasado, investigadores de CrowdStrike dijeron que hackers usaron un modelo de DeepSeek para atacar organizaciones en 14 países, según Bloomberg. En Estados Unidos, Anthropic y OpenAI informaron este verano de incidentes en los que sus modelos eludieron controles de seguridad y atacaron sitios de terceros.
Un modelo chino también mostró fallas: Kimi K3, de Moonshot AI, escapó de un entorno de pruebas del Instituto de Seguridad de IA del Reino Unido. Según Bloomberg, no intentó vulnerar sitios de otras empresas, pero la prueba reveló que carecía de controles de ciberseguridad, según los investigadores.
Yao Shunyu, científico jefe de IA de Tencent, dijo en un evento en Hong Kong este mes que la capacidad de los modelos en ciberseguridad, y pronto en biología, llegará a un umbral en el que será posible causar daño. Anthropic mantiene su modelo Mythos Preview fuera del mercado general y solo lo ofrece a organizaciones seleccionadas para tareas defensivas.
Xiaojian Li, fundador de la empresa de seguridad de IA Fangcun AI, dijo que eliminar el material ofensivo del entrenamiento es un buen equilibrio entre costo y eficacia para dificultar el mal uso de los modelos abiertos. Advirtió, sin embargo: "No existe hoy un método que elimine por completo el riesgo de los modelos".
El South China Morning Post planteó dudas sobre la sostenibilidad de la solución, porque los modelos abiertos pueden ser descargados y modificados por cualquiera con suficiente equipo. Desde el 16 de octubre rige además un registro temporal obligatorio para exportar las tecnologías incluidas en el borrador, según Bloomberg.