Ilya Sutskever Revela en Declaración Jurada Memo de 52 Páginas Contra Sam Altman en Caso Musk vs. OpenAI

Ilya Sutskever estuvo bajo declaración jurada durante casi 10 horas en el caso Musk vs. Altman, el 1 de octubre de este año.

El cofundador que ayudó a construir ChatGPT y se volvió famoso por votar para despedir a Sam Altman en noviembre de 2023, finalmente estaba bajo juramento y obligado a responder. La transcripción de 365 páginas fue publicada esta semana.

Lo que revela es un retrato de científicos brillantes tomando decisiones de gobernanza catastróficas, acusaciones no verificadas tratadas como hechos, y divisiones ideológicas tan profundas que algunos miembros de la junta preferían destruir OpenAI antes que permitir que continuara bajo el liderazgo de Altman.

La demanda Musk vs. Altman se centra en la afirmación de Elon Musk de que OpenAI y su CEO, Altman, traicionaron la misión original sin fines de lucro de la empresa al convertir su investigación en una empresa con fines de lucro alineada con Microsoft, planteando cuestiones de alto riesgo sobre quién controla los modelos avanzados de IA y si pueden desarrollarse de manera segura en interés público.

Para quienes siguen el drama de OpenAI, el documento es una lectura reveladora y condenatoria. Es un caso de estudio sobre cómo las cosas salen mal cuando el genio técnico se encuentra con la incompetencia organizacional.

Estas son las cinco revelaciones más significativas.

1. El informe de 52 páginas que el público no ha visto

Sutskever escribió un extenso argumento para remover a Altman, completo con capturas de pantalla y organizado en un informe de 52 páginas.

Sutskever declaró que explícitamente dijo en el memo: "Sam exhibe un patrón consistente de mentir, socavando a sus ejecutivos y enfrentando a sus ejecutivos entre sí".

Envió el memo a los directores independientes usando tecnología de correo electrónico con desaparición automática "porque estaba preocupado de que esos memos de alguna manera se filtraran". El informe completo no ha sido producido mediante descubrimiento legal.

"El contexto de este documento es que los miembros independientes de la junta me pidieron que lo preparara. Y lo hice. Y fui bastante cuidadoso", declaró Sutskever, señalando que porciones del memo existen en capturas de pantalla realizadas por Mira Murati, directora de tecnología de OpenAI.

2. Un año de juego de ajedrez en la junta

Cuando se le preguntó cuánto tiempo había estado considerando despedir a Altman, Sutskever respondió: "Al menos un año".

Al preguntarle qué dinámicas estaba esperando, señaló: "Que la mayoría de la junta no sea obviamente amiga de Sam".

Un CEO que controla la composición de la junta es funcionalmente intocable. El testimonio de Sutskever muestra que entendió esto perfectamente y ajustó su estrategia en consecuencia.

Cuando las salidas de miembros de la junta crearon esa apertura, él se movió. Estaba jugando política de junta a largo plazo, a pesar de lo cercanos que Altman y Sutskever parecían públicamente.

3. El fin de semana en que OpenAI casi desaparece

El sábado 18 de noviembre de 2023, dentro de las 48 horas posteriores al despido de Altman, hubo discusiones activas sobre fusionar OpenAI con Anthropic.

Helen Toner, ex miembro de la junta de OpenAI, fue "la más partidaria" de esta dirección, según Sutskever.

Si la fusión hubiera ocurrido, OpenAI habría dejado de existir como entidad independiente.

"No sé si fue Helen quien se acercó a Anthropic o si Anthropic se acercó a Helen", declaró Sutskever. "Pero se acercaron con una propuesta para fusionarse con OpenAI y tomar el control de su liderazgo".

Sutskever afirmó que estaba "muy descontento al respecto", agregando más tarde que "realmente no quería que OpenAI se fusionara con Anthropic".

4. "Destruir OpenAI podría ser consistente con la misión"

Cuando los ejecutivos de OpenAI advirtieron que la empresa colapsaría sin Altman, Toner respondió que destruir OpenAI podría ser consistente con su misión de seguridad.

Este es el corazón ideológico de la crisis. Toner representaba una corriente de pensamiento sobre seguridad de IA que ve el rápido desarrollo de IA como existencialmente peligroso, potencialmente más peligroso que ningún desarrollo de IA en absoluto.

"Los ejecutivos, fue una reunión con los miembros de la junta y el equipo ejecutivo, los ejecutivos dijeron a la junta que, si Sam no regresa, entonces OpenAI será destruida, y eso es inconsistente con la misión de OpenAI", declaró Sutskever. "Y Helen Toner dijo algo en el sentido de que es consistente, pero creo que lo dijo de manera aún más directa que eso".

Si realmente creías que OpenAI planteaba riesgos que superaban sus beneficios, entonces una revuelta de empleados pendiente era irrelevante. La declaración ayuda a explicar por qué la junta se mantuvo firme incluso cuando más de 700 empleados amenazaron con irse.

5. Errores de cálculo: Una fuente para todo, una junta inexperta y lealtad laboral similar a un culto

Casi todo en el memo de 52 páginas de Sutskever provino de una persona: Mira Murati.

No verificó las afirmaciones con Brad Lightcap, Greg Brockman u otros ejecutivos mencionados en las quejas. Confió completamente en Murati, y la verificación "no se le ocurrió".

"Creí completamente en la información que Mira me estaba dando", afirmó Sutskever. "En retrospectiva, me doy cuenta de que no lo sabía. Pero en ese momento, pensé que lo sabía. Pero lo sabía a través de conocimiento de segunda mano".

Cuando se le preguntó sobre el proceso de la junta, Sutskever fue franco sobre lo que salió mal.

"Una cosa que puedo decir es que el proceso fue apresurado", declaró. "Creo que fue apresurado porque la junta era inexperta".

Sutskever también esperaba que los empleados de OpenAI fueran indiferentes a la remoción de Altman.

Cuando 700 de 770 empleados firmaron una carta exigiendo el regreso de Altman y amenazando con irse a Microsoft, se sorprendió genuinamente. Había calculado fundamentalmente mal la lealtad de la fuerza laboral y el aislamiento de la junta de la realidad organizacional.

"No había esperado que festejaran, pero tampoco había esperado que sintieran fuertemente de una u otra manera", señaló Sutskever.