Por Josh Quittner
4 min lectura
Los empleadores podrían adorar la IA generativa, hasta que un empleado pegue datos financieros internos o código propietario en ChatGPT, Claude o Gemini, y los secretos de la empresa floten hacia la nube.
Cloudflare, cuya tecnología impulsa casi el 20% de la web, lanzó hoy supervisión de IA en su plataforma de seguridad empresarial, Cloudflare One. La función brinda a los equipos de TI visibilidad instantánea sobre quién está chateando con IA y qué le están alimentando en secreto. La empresa lo posiciona como una especie de visión de rayos X para el uso de IA generativa de los empleados, integrado en el panel que los equipos de TI ya usan.
"Los administradores ahora pueden responder preguntas como: ¿Qué están haciendo nuestros empleados en ChatGPT? ¿Qué datos se están subiendo y usando en Claude? ¿Está Gemini configurado correctamente en Google Workspace?", señaló la empresa en su publicación de blog.
Cloudflare afirma que tres de cada cuatro empleados usan ChatGPT, Claude o Gemini en el trabajo para todo, desde edición de texto y procesamiento de datos hasta depuración y diseño. El problema es que los datos sensibles generalmente desaparecen en herramientas de IA sin dejar rastro. El producto de Cloudflare se integra a nivel de API y escanea cargas cuestionables.
Según la empresa, un prompt malintencionado puede entrenar instantáneamente un modelo externo con sus datos confidenciales, que luego se pierden para siempre.
Competidores más grandes en el espacio de seguridad empresarial, como Zscaler y Palo Alto Networks, también ofrecen supervisión de IA. Cloudflare afirma que lo que distingue a Cloudflare One es su modelo híbrido sin agentes. Combina escaneo de API fuera de banda (para postura, configuración y filtraciones de datos) con controles de prompt en línea, aplicados en el borde a través de ChatGPT, Claude y Gemini, todo sin requerir instalación de software en endpoints.
Cloudflare se ha posicionado durante mucho tiempo como un proveedor de infraestructura neutral en contenido, no como moderador, lo que significa que generalmente se abstiene de vigilar lo que publican sus clientes, a menos que sea ordenado por ley. Esta postura se remonta a más de una década: el CEO Matthew Prince ha enfatizado que Cloudflare no es una plataforma de hosting y no determina qué contenido es permisible; en su lugar, simplemente asegura que los sitios web, independientemente de su ideología, permanezcan en línea y protegidos.
Este enfoque "absolutista de la libertad de expresión" ha atraído escrutinio. Los críticos señalan que Cloudflare ha permitido que sitios llenos de odio, extremistas o dañinos permanezcan accesibles, a menudo únicamente porque no se hizo una solicitud autoritativa para eliminarlos. Un estudio de Stanford de 2022 encontró que Cloudflare sirve desproporcionalmente sitios web de desinformación en relación con su participación general del tráfico de internet.
Sin embargo, ha habido reversiones raras. En 2017, Cloudflare terminó servicios para el sitio supremacista blanco The Daily Stormer, una medida controvertida, tomada solo después de que el sitio afirmara falsamente que Cloudflare compartía en secreto sus creencias pro-nazis. Prince describió posteriormente la decisión como una excepción reluctante, hecha bajo presión que forzó una ruptura de su política de neutralidad.
De manera similar, en 2019, Cloudflare eliminó 8chan tras su vínculo con tiroteos masivos, reconociendo que la comunidad se había vuelto peligrosamente anárquica.
Más recientemente, en 2022, Cloudflare finalmente retiró el soporte de Kiwi Farms en medio del creciente acoso, doxxing y amenazas a la vida humana. Ese cierre llegó después de presión liderada por activistas y reportes de violencia escalada.
Decrypt-a-cookie
This website or its third-party tools use cookies. Cookie policy By clicking the accept button, you agree to the use of cookies.