# data[].attributes.attachment_link.readable_text
La nueva empresa, Safe Superintelligence, tendrá sus oficinas repartidas entre Silicon Valley e Israel

Ilya Sutskever, cofundador de OpenAI, durante una charla en la Universidad de Tel Aviv, en Israel, en junio de 2023. Amir Cohen (REUTERS)

La carrera de la inteligencia artificial tiene un nuevo competidor tomando la salida. Se trata de Safe Superintelligence Inc, una compañía creada por Ilya Sutskever, que era el científico jefe de OpenAI, la firma dirigida por Sam Altman de la que fue cofundador. La nueva empresa estará domiciliada en Estados Unidos, pero tendrá sus oficinas repartidas entre Palo Alto (California) y Tel Aviv (Israel). Sutskever ha lanzado Safe Superintelligence poco más de un mes después de anunciar su salida de OpenAI, la compañía que asombró al mundo con su ChatGPT.

"La superinteligencia está al alcance de la mano. Construir una superinteligencia segura (SSI) es el problema técnico más importante de nuestro tiempo. Hemos puesto en marcha el primer laboratorio de SSI del mundo, con un objetivo y un producto: una superinteligencia segura. Se llama Safe Superintelligence Inc", ha anunciado Sutskever, de 38 años, a través de la red social X. La superinteligencia, también llamada por otros inteligencia artificial general, es aquella que supera a los humanos.

La posición del experto en aprendizaje automático -con doble nacionalidad israelí-canadiense, pero nacido en Rusia- dentro de OpenAI quedó algo comprometida en el fracasado intento de despedir a Sam Altman. Sutskever se unió a los consejeros independientes de OpenAI para despedir al primer ejecutivo de la compañía, en quien habían perdido la confianza. Luego, tras la revuelta de los trabajadores de la firma, mostró su arrepentimiento: "Lamento profundamente mi participación en las acciones del consejo. Nunca fue mi intención perjudicar a OpenAI. Amo todo lo que hemos construido juntos y haré todo lo posible para volver a unir a la compañía", tuiteó.

En su momento, se especuló con que las razones del descontento del científico jefe, una pieza clave en el desarrollo de OpenAI, se debían a que la compañía estaba avanzando demasiado rápido sin las salvaguardas apropiadas y cediendo a las tentaciones comerciales con sus productos y servicios. En plena crisis en la cúpula de OpenAI, se publicó que varios investigadores de la plantilla de OpenAI enviaron una carta al consejo poco antes del despido de Sam Altman en la que advertían de un poderoso descubrimiento de inteligencia artificial liderado por el propio Sutskever que, según ellos, podría amenazar a la humanidad.

En mayo, cuando anunció su dimisión como científico jefe de OpenAI, anticipó que estaba "entusiasmado" con un nuevo proyecto del que entonces prefirió no dar más detalles. Ahora, firma su mensaje junto a otro antiguo empleado de OpenAI, Daniel Levy, y el empresario y emprendedor de 32 años nacido en Jerusalén Daniel Gross, cofundador del motor de búsqueda Cue, que vendió a Apple en 2013. Gross trabajó luego en los proyectos de inteligencia artificial en ese gigante tecnológico y fue socio de Y-Combinator, además de inversor en diferentes firmas tecnológicas como Instacart, Figma, GitHub, Airtable, Rippling y Coinbase.

"La superinteligencia segura es nuestra misión, nuestro nombre y toda nuestra hoja de ruta de productos, porque es nuestro único objetivo. Nuestro equipo, nuestros inversores y nuestro modelo de negocio están alineados para lograr SSI", dicen los tres en su mensaje.

La seguridad, por delante

Indican también que abordan la seguridad y las capacidades de forma conjunta, como problemas técnicos que deben resolverse mediante avances científicos y de ingeniería revolucionarios. "Planeamos avanzar en capacidades lo más rápido posible, asegurándonos de que nuestra seguridad siempre va por delante. De este modo, podemos crecer con tranquilidad".

La nueva empresa parece marcar distancias con otras firmas, incluida OpenAI, que en paralelo a su investigación buscan lanzar productos y servicios que generen los ingresos suficientes para seguir invirtiendo en investigadores y capacidad de computación.

Sin dar detalles de esa aproximación ni de los inversores con los que cuentan, Sutskever y sus socios afirman: "Nuestro enfoque singular significa que no nos distraen los gastos generales de gestión ni los ciclos de los productos, y nuestro modelo de negocio significa que la seguridad y el progreso están aislados de las presiones comerciales a corto plazo".

La empresa explica su doble sede en Palo Alto (California) y Tel Aviv, en que tienen allí "raíces profundas y la capacidad de reclutar a los mejores talentos técnicos".

Sobre la firma

Ver biografía

Más información

# data[].attributes.attachment_link.title
Ilya Sutskever, cofundador de OpenAI, crea una nueva firma de inteligencia artificial

# data[].attributes.attachment_link.description
La nueva empresa, Safe Superintelligence, tendrá sus oficinas repartidas entre Silicon Valley e Israel

# data[].attributes.attachment_link.readable_text
Estados Unidos lleva décadas acusando a China de espionaje tecnológico. Una estimación del National Counterintelligence and Security Center (NCSC) dada a conocer en 2021 estimó pérdidas anuales de entre 200.000 y 600.000 millones dólares relacionadas al robo de propiedad intelectual por parte del gigante asiático. "Esto ha estado sucediendo durante los últimos 20 años", dijo en aquel entonces el director interino de la mencionada organización en una entrevista con CBS.

Pese a la presunta gravedad del asunto, desde hace tiempo que el país norteamericano no alcanzaba el nivel de alerta que se maneja en la actualidad. Financial Times señala que el gobierno estadounidense está expresando una mayor preocupación por el espionaje chino en medio de la carrera por dominar el desarrollo de la inteligencia artificial (IA). Este escenario se traduce en mayor presión para el sector privado, que tiene que tomar medidas adicionales para resguardar sus secretos.

Silicon Valley en alerta por el espionaje chino

El modus operandi que vuelve a hacer saltar las alarmas en Washington no es muy diferente al que China habría ejecutado en muchos otros países e incluso en Estados Unidos. Pekín estaría utilizando trabajadores espía para robar información confidencial de las empresas que los contrataron para trabajar. Esto, precisamente, ya lo habrían padecido en sus propias carnes el líder mundial de equipos litográficos ASML en Países Bajos y el fabricante de semiconductores SK Hynix en Corea del Sur.

Ahora, según explica el periódico económico, compañías estadounidenses de alto perfil como Google y OpenAI están siendo más estrictas en sus procesos de selección de personal. En un esfuerzo por mejorar la seguridad y la privacidad interna, en algunos casos se investigan los perfiles para no acabar contratando un talento que pueda acabar filtrando información delicada y, por consecuencia, produciendo pérdidas económicas millonarias a mediano o largo plazo.

El mencionado mecanismo, no obstante, no es tan sencillo de implementar. Algunas compañías gestionan una enorme cantidad de contrataciones y empleados, principalmente en tiempos donde se requiere de personal cualificado para impulsar los más recientes proyectos de IA. Esto presenta un desafío que está tratando de ser abordado por otras compañías. Una herramienta llamada Strider está ganando terreno dentro de las corporaciones estadounidenses.

Se trata de un sistema impulsado por IA que recopila información sobre los supuestos planes de las agencias de inteligencia extranjeras para reclutar científicos con el objetivo de filtrar información. En caso que una persona aparezca en el sistema Striler, la empresa interesada en contratarla puede realizar una investigación adicional que incluye vínculos familiares y financieros. Las prácticas demasiado minuciosas, cabe señalar, pueden rodear peligrosamente los límites permitidos.

Estados Unidos lidera en este momento el desarrollo de la IA. Algunos de los actores más importantes de esta industria están dentro de sus fronteras, pero China no quiere quedarse atrás. Pekín ha desplegado una batería de medidas para ganar terreno. Las mismas van desde crear sus propias unidades de procesamiento gráfico (GPU) para centros de datos hasta lanzar una catarata de modelos de lenguaje avanzados. El espionaje estaría siendo un recurso también importante para su misión.

Imágenes | Chris Yang | Bernard Hermant

En Xataka | Samsung ha confirmado que este año va a invertir fuerte en GPU. Esto es lo que sospechamos que va a hacer

# data[].attributes.attachment_link.title
El auge de la inteligencia artificial está reavivando un viejo temor en las empresas estadounidenses: el espionaje chino

# data[].attributes.attachment_link.description
Estados Unidos lleva décadas acusando a China de espionaje tecnológico. Una estimación del National Counterintelligence and Security Center (NCSC) dada a...

# data[].attributes.attachment_link.title
La Revolución del Internet: De ARPANET a la Era de la Inteligencia Artificial

# data[].attributes.attachment_link.title
¿Qué es y cómo funciona la INTELIGENCIA ARTIFICIAL?

# data[].attributes.attachment_link.title
La llegada de la inteligencia artificial a la educación

# data[].attributes.attachment_link.description
Autoría: Raúl Darío Moreno Padilla.
Localización: Revista de Investigación en Tecnologías de la Información: RITI. Nº. 14, 2019.
Artículo de Revista en Dialnet.

# data[].attributes.attachment_link.description
En esta ponencia se examinan las características de la asignatura de Inteligencia Artificial, tal y como se imparte en la Escuela Superior de Ingeniería Informática de la UAM. Después de examinar los principales rasgos de la docencia tanto teórica como práctica, se realiza una reflexión sobre algunos aspectos de la asignatura que resultan de especial interés, tales como la coordinación con otras asignaturas relacionadas del currículo.

# data[].attributes.attachment_link.title
Inteligencia artificial y propiedad intelectual | Universidad y Sociedad

# data[].attributes.attachment_link.description
La inteligencia artificial está revolucionando los preceptos de los derechos de propiedad, en la actualidad existen algoritmos de inteligencia artificial que de forma “autónoma” son capaces de crear lo que podrían considerarse obras del espíritu si fuesen realizadas por seres humanos. Sin embargo, b…