AGI: el próximo paso de la Inteligencia Artificial

Analizamos el nuevo artículo de OpenAI sobre el futuro de la inteligencia artificial. ¿Deberíamos preocuparnos?

Dos personas discutiendo sobre IA en una habitación
En imagen: Ilya Sutskever, Director Científico de Open AI LP (izquierda) y Greg Brockman, CTO de OpenAI (derecha).

Una Inteligencia Artificial General (o AGI por sus siglas en inglés) es un tipo de inteligencia artificial capaz de aprender y resolver problemas por su cuenta. No solo trabaja con los datos que le suministran, sino también busca otros nuevos para mejorarse a sí misma.

Una AGI no está tan lejos de ser desarrollada, pero un sistema tan avanzado necesita manejarse con mucho cuidado para que todo salga bien.

El contexto

El año pasado trajo consigo el boom de la inteligencia artificial, con muchas empresas dedicando gran parte de sus esfuerzos en presentar sus productos basado en IA lo antes posible.

Sin embargo, el desarrollo apresurado de nuevos sistemas de inteligencia artificial puede traer serios problemas si no se toman las medidas necesarias para regular qué tan lejos puede avanzar una empresa o gobierno desde el punto de vista ético.

Días atrás, Sam Altman, CEO de OpenAI, presentó ante el mundo su hoja de ruta para el desarrollo de Inteligencia Artificial General (AGI) y hay ciertos detalles que merecen ser analizados.

¿Qué tan peligroso es desarrollar AGI?

Los sistemas actuales de IA se alimentan de millones de datos suministrados por los investigadores que la desarrollan. Es decir, se entrenan para dar respuestas, y si bien pueden aprender de sus errores, no pueden aprender cosas nuevas por su cuenta.

El mejor ejemplo de esto es ChatGPT, que OpenAI ha dejado claro fue entrenada con información disponible hasta 2021, por lo que es imposible que el chatbot responda sobre temas actuales.

Eso no pasaría con una AGI, ya que estas tienen la capacidad de autoentrenarse y recopilar nueva información por sí mismas, lo que nos abre un mundo de nuevas posibilidades, pero también de muchos problemas.

Si se hace uso indebido de una AGI, la sociedad en general corre grandes riesgos, pues es una herramienta tan poderosa que fácilmente puede convertirse en el arma principal de un régimen autocrático, ayudando a fortalecer sistemas que atenten contra la libertad de expresión o la creación masiva de noticias falsas.

👀
El Crédito Social en China es un ejemplo de cómo la IA puede usarse para intentar regular el comportamiento de una población.

El lado bueno de una AGI

No todo debe ser estrictamente negativo, una AGI usada de forma correcta puede significar un gran paso para la sociedad. Puede, por ejemplo, acercar a localidades de difícil acceso las oportunidades y herramientas necesarias para tener mayor información.

Además, la AGI nos puede ayudar a evolucionar más rápido como especie, ofreciendo la posibilidad de nuevos descubrimientos científicos que superen los límites que hemos encontrado hasta ahora.

¿Cuánto falta para esto?

El desarrollo de AGI está en una fase muy precoz y estas grandes ventajas o posibles problemas están aún muy lejos, pero es bueno que iniciemos una ruta segura con pilares sólidos para evitar a toda costa un futuro caótico liderado por AGI.

En su blog, OpenAI sugiere que cada fase de desarrollo que se logre en esta área, debe ser:

  1. Auditado por empresa independiente antes de seguir avanzando.
  2. Que toda información científica y de desarrollo sea de acceso libre para quien pueda necesitarlo.
  3. Limitar la tasa de crecimiento para crear nuevos modelos de AGI.
  4. Definir estándares públicos que ayuden a definir si es seguro seguir avanzando o es mejor retirar los avances y cambiar el enfoque.

Dar una fecha exacta para la posible presentación de una inteligencia artificial a este nivel es casi imposible, pues hay distintos factores que pueden afectar al tiempo de desarrollo. Por ejemplo, esta IA tiene la capacidad de autoentrenarse, lo que puede ayudar a que se acelere el progreso. Pero, ¿estamos dispuestos a permitir que la IA sea quien se cree a sí misma?

Sin duda estamos viviendo una etapa muy importante de adopción de la Inteligencia Artificial y en los próximos años lo más probable es que veamos grandes avances en esta industria. Seremos nosotros mismos como raza humana los que intentemos maximizar los grandes aportes que puede traer una AGI y minimizar todos los problemas que trae consigo un desarrollo de esta magnitud.

🤓
Para entender mejor los límites y alcances de una IA, visita nuestro post donde explicamos algunos términos a detalle.