En Resumen
- Los senadores republicanos solicitaron al Departamento de Comercio que investigue las amenazas de seguridad nacional vinculadas a DeepSeek por posibles filtraciones de datos.
- Los legisladores advirtieron que el diseño de código abierto de DeepSeek R1 permite modificaciones que crean vectores potenciales para el abuso de información sensible.
- La administración Trump había considerado previamente prohibir DeepSeek por preocupaciones de que China obtendría una ventaja competitiva en el desarrollo de IA.
Un grupo de legisladores republicanos ha solicitado al Departamento de Comercio de Estados Unidos que investigue las posibles amenazas de seguridad nacional vinculadas a DeepSeek, una empresa china detrás de un modelo de IA de código abierto conocido como R1.
En una carta enviada el 1 de agosto y hecha pública el martes, los senadores citaron riesgos de que el modelo podría filtrar datos de usuarios estadounidenses y ayudar a los esfuerzos militares y de vigilancia de China.
Liderada por el senador Ted Budd (R-NC), la carta fue cofirmada por los senadores Bill Cassidy (R-LA), John Cornyn (R-TX), Marsha Blackburn (R-TN), Todd Young (R-IN), John Husted (R-OH) y John Curtis (R-UT).
DeepSeek "ha brindado voluntariamente apoyo y probablemente continuará proporcionando soporte a las operaciones militares y de inteligencia de China", dice la carta, citando evaluaciones oficiales y describiendo las afirmaciones como "profundamente preocupantes" debido a los riesgos potenciales de exposición y mal uso de datos.
Los legisladores advirtieron que el diseño de código abierto de DeepSeek R1 permite a los desarrolladores acceder y modificar los pesos de su modelo, creando vectores potenciales para el abuso. Señalaron la capacidad del modelo para generar contenido dañino y su lanzamiento sin pruebas integrales de seguridad como motivos adicionales de preocupación.
"Los pesos del modelo también pueden descargarse públicamente, lo que hará que los usuarios enfrenten escrutinio por vulnerabilidades de ejecución remota de código, robo, manipulación o explotación", dijo Chris Anderson, CEO de ByteNova AI, a Decrypt. "Cuando la procedencia y la auditabilidad no están claras, las empresas corren el riesgo de exponer datos sensibles sin saberlo o permitir el mal uso adversarial".
Asegurar que tales aplicaciones sean "seguras y no propensas a filtrar información confidencial y explotación maligna es fundamental", escribieron los senadores, calificando el desarrollo de IA para uso empresarial y del consumidor como un frente clave en la competencia con China.
La administración Trump había considerado en abril prohibir DeepSeek por preocupaciones de que China obtendría una ventaja competitiva.
Un ejemplo citado en la carta involucró a R1 produciendo instrucciones para una campaña en redes sociales que fomentaba la autolesión entre adolescentes, así como orientación para construir un arma biológica.
Los senadores argumentaron que tales resultados destacan los peligros de implementar modelos de IA con licencias permisivas sin la supervisión adecuada.
Aun así, Anderson de ByteNova reconoció que las restricciones en los sistemas gubernamentales pueden estar justificadas, pero advirtió sobre compensaciones más amplias.
En términos del desarrollo global de IA, las prohibiciones "llevarán a un oligopolio entre las empresas estadounidenses de IA, ralentizando así algunas innovaciones de IA y causando problemas", dijo, señalando cómo esos problemas también se conectan con el desafío de descentralizar la innovación de IA fuera de Estados Unidos.
"Los entornos federales exigen un principio de precaución: incluso una violación de baja probabilidad podría tener consecuencias catastróficas para la seguridad nacional", añadió Anderson.