Ex-investigadora de OpenAI y denunciante hallada muerta

Una ex investigadora de OpenAI convertida en informante, Suchir Balaji, de 26 años, fue encontrada muerta en un apartamento de San Francisco, confirmaron las autoridades, según lo informó por primera vez The Mercury News.

La policía descubrió el cuerpo de Balaji el 26 de noviembre después de recibir una solicitud de verificación de bienestar. La oficina del médico forense de San Francisco determinó que la muerte fue un suicidio, y los investigadores no encontraron signos de juego sucio, dijo la BBC.

En los meses previos a su muerte, Balaji había criticado públicamente las prácticas de OpenAI. La compañía actualmente enfrenta múltiples demandas por sus métodos de recolección de datos.

Recientemente participé en una historia del NYT sobre el uso justo y la IA generativa, y por qué soy escéptica de que “uso justo” sería una defensa plausible para muchos productos de IA generativa. También escribí una entrada en mi blog (https://t.co/xhiVyCk2Vk) sobre los detalles técnicos del uso justo y por qué yo…

— Suchir Balaji (@suchirbalaji) 23 de octubre de 2024

En una reciente entrevista con el New York Times, el señor Balaji dijo que ve las amenazas planteadas por la IA como inmediatas y significativas. Argumentó que ChatGPT y chatbots similares están socavando la viabilidad comercial de individuos, empresas y servicios de internet que originalmente crearon los datos digitales utilizados para entrenar estos sistemas.

OpenAI, Microsoft y otras empresas sostienen que el entrenamiento de sus sistemas de IA en datos de internet se encuentra bajo la doctrina de “uso justo”.

Esta doctrina considera cuatro factores, y estas empresas sostienen que cumplen con los criterios, incluyendo la transformación significativa de obras con derechos de autor y no competir directamente en el mismo mercado que esas obras.

El señor Balaji no estuvo de acuerdo. Argumentó que sistemas como el GPT-4 hacen copias completas de los datos de entrenamiento. Aunque empresas como OpenAI pueden programar estos sistemas para replicar los datos o producir resultados completamente nuevos, la realidad, dice él, se encuentra en algún punto intermedio, según lo informado por The Times.

El Sr. Balaji publicó un ensayo en su página web personal, ofreciendo lo que describe como un análisis matemático para respaldar esta afirmación. “Si crees lo que yo creo, simplemente tienes que abandonar la empresa”, dijo, según informó The Times.

Según el Sr. Balaji, la tecnología viola la ley de derechos de autor porque a menudo compite directamente con las obras en las que se entrenó. Los modelos generativos, diseñados para imitar los datos en línea, pueden sustituir casi cualquier cosa en internet, desde artículos de noticias hasta foros en línea, informó The Times.

La muerte de Balaji ocurrió solo un día después de que una presentación judicial lo identificara como una persona cuyos archivos profesionales OpenAI revisaría en relación con una demanda presentada por varios autores contra la startup, señaló Forbes.

Más allá de las preocupaciones legales, el Sr. Balaji advirtió que las tecnologías de IA están degradando el internet. A medida que estas herramientas reemplazan los servicios existentes, a menudo generan información falsa o completamente fabricada, un fenómeno que los investigadores llaman “alucinaciones”. Creía que este cambio está empeorando el internet, informó The Times.

Bradley J. Hulbert, un abogado de propiedad intelectual, señaló que las leyes actuales de derechos de autor se establecieron mucho antes de la aparición de la IA y que ningún tribunal ha dictaminado aún si tecnologías como ChatGPT violan estas leyes, según informó The Times.

Hizo hincapié en la necesidad de una acción legislativa. “Dado que la IA está evolucionando tan rápido”, dijo, “es hora de que el Congreso intervenga”. El señor Balaji estuvo de acuerdo, declarando, “La única salida a todo esto es la regulación”, informó The Times.