Daniel Gross, Ilya Sutskever y Daniel Levy son cofundadores de la empresa de inteligencia artificial Safe Super Intelligence
Nueva York:
Safe Super Intelligence (SSI), recientemente cofundada por el ex científico jefe de OpenAI, Ilya Sutskever, ha recaudado mil millones de dólares en efectivo para ayudar a desarrollar sistemas seguros de inteligencia artificial que superen las capacidades humanas, dijeron ejecutivos de la compañía a Reuters.
SSI, que actualmente cuenta con 10 empleados, planea utilizar los fondos para adquirir potencia informática y contratar a los mejores talentos. Se centrará en formar un pequeño equipo de investigadores e ingenieros de gran confianza dividido entre Palo Alto, California y Tel Aviv, Israel.
La compañía se negó a compartir su valoración, pero fuentes cercanas al asunto dijeron que está valorada en 5 mil millones de dólares. El fondo señala que pocos inversores todavía están dispuestos a hacer grandes apuestas por talentos excepcionales centrados en la investigación fundamental de la IA. Esto a pesar de una disminución general del interés en financiar este tipo de empresas, que pueden dejar de ser rentables durante algún tiempo, y que ha llevado a varios fundadores de startups a dejar sus puestos por los gigantes tecnológicos.
Entre los inversores se encuentran las principales firmas de capital riesgo Andreessen Horowitz, Sequoia Capital, DST Global y SV Angel. También participó NFDG, una asociación de inversión liderada por Nat Friedman y el director ejecutivo de SSI, Daniel Gross.
“Es importante para nosotros estar rodeados de inversores que comprendan, respeten y apoyen nuestra misión, que es crear una oportunidad directa para la superinteligencia segura, y especialmente pasar años investigando y desarrollando nuestro producto antes de lanzarlo al mercado”, dijo Gross en un entrevista.
La seguridad de la IA, que se refiere a evitar que la IA cause daño, es un tema candente en medio de temores de que la IA deshonesta pueda actuar contra los intereses de la humanidad o incluso causar la extinción humana.
Un proyecto de ley de California para imponer normas de seguridad a las empresas ha dividido a la industria. Tiene la oposición de empresas como OpenAI y Google y el apoyo de Anthropic y xAI de Elon Musk.
Sutskever, de 37 años, es uno de los tecnólogos más influyentes en IA. Cofundó SSI en junio con Gross, quien anteriormente dirigió iniciativas de inteligencia artificial en Apple, y el ex investigador de OpenAI Daniel Levy.
Sutskever es el científico jefe y Levy es el científico jefe, mientras que Gross es responsable de la potencia informática y la recaudación de fondos.
Nueva montaña
Sutskever dijo que su nueva empresa tenía sentido porque “identificó una montaña que era un poco diferente de aquello en lo que estaba trabajando”.
El año pasado, formó parte de la junta directiva sin fines de lucro de OpenAI que votó a favor de destituir al director ejecutivo de OpenAI, Sam Altman, por una “falla en la comunicación”.
A los pocos días, revocó su decisión y se unió a casi todos los empleados de OpenAI para firmar una carta exigiendo el regreso de Altman y su renuncia a la junta. Pero un giro de los acontecimientos redujo su papel en OpenAI. Fue destituido del consejo y dejó la empresa en mayo.
Después de la partida de Sutskever, la compañía disolvió su equipo de “Superalineación”, que trabajó para garantizar que la IA permaneciera alineada con los valores humanos en preparación para superar la inteligencia humana.
A diferencia de la estructura corporativa poco convencional de OpenAI, implementada por razones de seguridad de la IA pero que permitió el derrocamiento de Altman, SSI tiene una estructura regular con fines de lucro.
Actualmente, SSI se está centrando en gran medida en reclutar personas que se adapten a su cultura.
Gross dijo que pasa horas verificando que los candidatos tengan “buen carácter” y busca personas con habilidades extraordinarias en lugar de poner demasiado énfasis en las credenciales y la experiencia en el campo.
“Una cosa que nos entusiasma es encontrar gente interesada en el trabajo, que no está interesada en la escena, en el revuelo”, añade.
SSI dice que planea asociarse con proveedores de nube y compañías de chips para financiar sus necesidades de potencia informática, pero aún no ha decidido con qué compañías trabajará. Las nuevas empresas de IA suelen trabajar con empresas como Microsoft y Nvidia para satisfacer sus necesidades de infraestructura.
Sutskever fue uno de los primeros defensores del escalamiento, una suposición de que los modelos de IA mejorarían el rendimiento debido a grandes cantidades de potencia informática. La idea y su implementación desencadenaron una ola de inversiones en IA en chips, centros de datos y energía, sentando las bases para avances en IA generativa como ChatGPT.
Sutskever dijo que abordará la ampliación de manera diferente que su antiguo empleador, sin compartir detalles.
“Todo el mundo se limita a decir la hipótesis de la escala. Todo el mundo se olvida de preguntar: ¿estamos escalando?”. el dijo
“Algunas personas pueden trabajar muchas horas y llegarán al mismo destino rápidamente. No es tanto nuestro estilo. Pero si haces algo diferente, puedes hacer algo especial”.
(Esta historia no ha sido editada por el personal de NDTV y se genera automáticamente a partir de un feed sindicado).