San Francisco, Estados Unidos:
Suchir Balaji, un investigador de OpenAI de 26 años convertido en denunciante, fue encontrado muerto en un apartamento en San Francisco, EE. UU., el mes pasado. Su muerte el 26 de noviembre fue considerada un suicidio por la oficina del médico forense de San Francisco porque la policía no encontró evidencia de crimen.
Balaji, que dejó OpenAI en agosto, en los últimos meses se ha pronunciado muy abiertamente en contra de la práctica de la empresa de inteligencia artificial de entrenar chatbots con material protegido por derechos de autor extraído de Internet. El gigante de la inteligencia artificial (IA) está librando varias demandas relacionadas con sus prácticas de recopilación de datos.
Acerca de Suchir Balaji
El indio americano Suchir Balaji creció en Cupertino, California. Un niño notablemente inteligente, se destacó en competencias de programación, ubicándose en el puesto 31 en las Finales Mundiales ACM ICPC 2018 y primero en las Competencias de Programación Regional del Noroeste del Pacífico y Berkeley de 2017.
Balaji ocupó el séptimo lugar en el “Desafío de algoritmo de detección de pasajeros” patrocinado por la TSA de Kaggle y obtuvo un premio de $100,000. Según su perfil de LinkedIn, fue Campeón Nacional del US Open 2016 y Finalista de la USACO.
Como muchos otros en su campo, Balaji quedó cautivado por la promesa de la inteligencia artificial desde una edad temprana. En una entrevista con el New York Times en octubre, mencionó su interés en la IA después de tropezar con una noticia sobre la tecnología cuando era adolescente e imaginar que las redes neuronales podrían resolver los mayores problemas de la humanidad.
“Pensé que la IA era algo que podría usarse para resolver problemas no resueltos, como curar enfermedades y detener el envejecimiento… Pensé que podríamos inventar algunos científicos que podrían ayudar a resolverlos”, dijo, según informa el NYT. .
Incluso antes de graduarse, trabajó en Scale AI, Helia, y fue ingeniero de software en Quora. En 2020, Balaji se unió a un grupo de graduados de Berkeley que trabajaron para OpenAI.
Hora de Suchir Balaji en OpenAI
Trabajó en OpenAI durante cuatro años, durante los cuales, durante un año y medio, ayudó a recopilar y organizar cantidades masivas de datos de Internet utilizados para construir el chatbot en línea de la empresa, ChatGPT.
Balaji le dijo al NYT que durante su incursión inicial en OpenAI, no consideró cuidadosamente si la compañía tenía el derecho legal de construir sus productos utilizando datos de Internet abiertos y con derechos de autor. Sólo después del lanzamiento de ChatGPT a finales de 2022 comenzó a pensar en el tema y se dio cuenta de que tecnologías como ChatGPT estaban dañando Internet al utilizar datos protegidos por derechos de autor, infringiendo la ley en el proceso.
Para 2024, Balaji dijo que “ya no quiere contribuir a la tecnología que cree que hará más daño que bien a la sociedad”. Dejó la empresa en agosto de este año sin nuevo trabajo y empezó a trabajar en un “proyecto personal”.
Murió un día después de ser nombrado ante el tribunal como alguien cuyos archivos OpenAI buscará como parte de una demanda presentada por quienes demandaron al gigante de la IA.
La denuncia de Suchir Balaji contra OpenAI
Después de dejar OpenAI, Suchir Balaji se pronunció públicamente en contra de la forma en que las empresas de IA utilizaban datos protegidos por derechos de autor para desarrollar su tecnología. Se quejó de que los modelos de IA dependían demasiado del trabajo de otros porque estaban entrenados con material protegido por derechos de autor extraído de Internet sin permiso.
“Éste no es un modelo sostenible para el ecosistema de Internet en su conjunto”, afirma. ahora.
También explicó sus preocupaciones sobre ella. sitio web personalSi bien señala que los modelos generados rara vez producen resultados similares a sus datos de entrenamiento, copiar material protegido por derechos de autor durante el entrenamiento puede violar la ley si no está protegido bajo el “uso justo”.
“Debido a que el uso legítimo se determina caso por caso, no se puede hacer una declaración amplia sobre cuándo la IA generativa califica para uso legítimo”, señaló.
Balaji ha argumentado en varios casos que los chatbots compiten directamente con las obras protegidas por derechos de autor de las que aprenden. “Los modelos generativos están diseñados para simular datos en línea, de modo que puedan sustituir “básicamente cualquier cosa” en Internet, desde noticias hasta foros en línea”, dijo.
Según él, el mayor problema es que las tecnologías de inteligencia artificial reemplazan gradualmente los servicios de Internet existentes, a veces crean “información falsa y a veces completamente fabricada, lo que los investigadores llaman “alucinaciones”.
Internet, afirma, está empeorando.
Quejas contra empresas de IA
Balaji no estaba solo en su preocupación por el uso indebido de los datos de los redactores publicitarios por parte de las empresas de inteligencia artificial para entrenar sus chatbots. Varios editores de noticias estadounidenses y canadienses, incluido el New York Times, han presentado demandas contra OpenAI y su primer socio Microsoft, alegando que utilizaron millones de sus artículos para crear chatbots que ahora compiten con los medios de noticias como fuentes de información confiable.
Muchos autores de bestsellers, incluido John Grisham, también han demandado a la empresa.
OpenAI pretende disputar
OpenAI ha cuestionado las afirmaciones de Balaji, insistiendo en que su uso de datos cumple con los principios de uso justo y los precedentes legales.
“Construimos nuestros modelos de IA utilizando datos disponibles públicamente, protegidos por el uso legítimo y principios relacionados, y respaldados por precedentes legales de larga data y ampliamente aceptados. Consideramos que este principio es justo para los creadores, necesario para los innovadores e importante para la competitividad de Estados Unidos. ” dijo OpenAI en un comunicado.
La empresa dijo bbc en noviembre que su software está “basado en el uso legítimo y principios internacionales de derechos de autor relacionados que son justos para los creadores y apoyan la innovación”.
En reacción a la muerte de Balaji, un portavoz de OpenAI dijo: “Estamos devastados al enterarnos de esta noticia increíblemente triste hoy y nuestros corazones están con los seres queridos de Suchir en este momento difícil”.