Dos ex-OpenAi crean una empresa de IA segura!

  • La nueva empresa de Sutskever y Levy presume del enfoque se les llevó por delante en OpenAI

  • Un enfoque basado en la seguridad por encima de las urgencias comerciales

La nueva empresa de Ilya Sutskever, ex de OpenAI, tiene un nombre que es una declaración de intenciones. Sobre ella misma y sobre la que a partir de ahora será su competencia: ‘Safe Superintelligence’ (Superinteligencia Segura), abreviada como SSI.

Por qué es importante. Su lanzamiento, con antiguos líderes de OpenAI al frente, marca un paso notable en la búsqueda de un futuro de IA segura. Justo lo que dinamitó internamente a la empresa, con victoria final de Altman.

SSI busca garantizar que los sistemas de IA superinteligentes se desarrollen con la seguridad y la protección como prioridades fundamentales. Evitando posibles consecuencias catastróficas.

El contexto. La superinteligencia se refiere a sistemas de IA que superan la inteligencia humana en todos los ámbitos. Garantizar la seguridad de estos sistemas es crucial, ya que sus capacidades podrían influir en muchos aspectos de nuestra vida.

La misión de SSI, resumida en su sencillísima web corporativa, es avanzar en las capacidades de la IA manteniendo siempre un enfoque en la seguridad, intentando resolver este doble desafío mediante innovaciones de ingeniería y científicas, y libre de las urgencias comerciales.

El contexto. La superinteligencia se refiere a sistemas de IA que superan la inteligencia humana en todos los ámbitos. Garantizar la seguridad de estos sistemas es crucial, ya que sus capacidades podrían influir en muchos aspectos de nuestra vida.

La misión de SSI, resumida en su sencillísima web corporativa, es avanzar en las capacidades de la IA manteniendo siempre un enfoque en la seguridad, intentando resolver este doble desafío mediante innovaciones de ingeniería y científicas, y libre de las urgencias comerciales.

En perspectiva. Analistas como Chirag Mehta han mostrado sus dudas sobre la ambigüedad del concepto de “superinteligencia segura” y sus implicaciones prácticas.

El lanzamiento de SSI atraerá a investigadores con una gran vocación del desarrollo seguro en IA y quizás desilusionados con el enfoque actual de gran parte de la industria, que prima productos comercializables por encima de las consideraciones éticas.

Con el anuncio de la nueva empresa queda ver qué tipos de perfiles se van incorporando a ella, y cuál es el contexto de cada uno. También será interesante ver quiénes la financian y con quién se asocia como termómetro para intuir su potencial para alcanzar sus objetivos.

Tomado de Xataka