El Centro para la Seguridad de la IA emitió una declaración dramática ayer, 30 de mayo, advirtiendo sobre los riesgos que la inteligencia artificial (IA) representa para el futuro de la humanidad.

Los firmantes de la declaración incluyen al científico Geoffrey Hinton, apodado por algunos como «El padrino de la IA», y Sam Altman, director ejecutivo de Open AI, quien desarrolló el chatbot Chat GPT.

El Centro de seguridad de IA publicó esto en Gorjeo Dicho: «Publicamos uno opinión sobre el riesgo de extinción AI. Los signatarios incluyen: – Tres ganadores del Premio Turing – Autores de los libros de texto estándar sobre el tema AI/DL/RL: directores ejecutivos y ejecutivos de OpenAI, Microsoft, Google, Google DeepMind, Anthropic, muchos más».

Hemos publicado una declaración sobre el riesgo de extinción causado por la IA.

Los signatarios incluyen:
– Tres ganadores del Premio Turing
– Autores de los libros de texto estándar sobre AI/DL/RL
– CEOs y ejecutivos de OpenAI, Microsoft, Google, Google DeepMind, Anthropic
– Muchos más https://t.co/mkJWhCRVwB

— Centro para la seguridad de la IA (@ai_risks) 30 de mayo de 2023

En su declaración, enumeraron ocho ejemplos de riesgos de IA, que incluyen:

Armamento: los actores maliciosos podrían usar la IA para desestabilizar la política, crear armas químicas o alimentar peleas de perros.

Información errónea: la IA se puede utilizar para crear grandes cantidades de información errónea y contenido persuasivo.

Juegos proxy: la IA podría encontrar nuevas formas de lograr objetivos sin pasar por los valores morales.

Debilitamiento: a medida que la humanidad se vuelve cada vez más dependiente de la IA, nosotros mismos nos volvemos menos capaces.

Bloqueo de valor: la tecnología podría empoderar a un pequeño grupo de personas y conducir a la opresión.

Nuevos objetivos: la IA podría desarrollar sus propios objetivos y se podría perder el control sobre la tecnología.

Engaño: la IA podría optar por usar el engaño, ya que los sistemas pueden verlo como la mejor manera de lograr los objetivos.

Comportamiento de búsqueda de poder: los gobiernos pueden encontrar útil tener poderosos agentes de IA, pero esto podría salirse fácilmente de control.

El periodico de Wall Street dijo más Gorjeo: «Los líderes tecnológicos y los científicos en el campo de la inteligencia artificial están haciendo sonar la alarma sobre la IA, diciendo en una declaración conjunta el martes que la tecnología presenta un riesgo de extinción tan grande como las pandemias y la guerra nuclear».

Los líderes tecnológicos y científicos en el campo de la inteligencia artificial están haciendo sonar la alarma sobre la IA y dijeron en un comunicado conjunto el martes que la tecnología enfrenta un riesgo de extinción tan grande como las pandemias y la guerra nuclear https://t.co/LVFFTyBLpO

— El Diario de Wall Street (@WSJ) 30 de mayo de 2023

Se cree ampliamente que, si bien existe la posibilidad de que la tecnología de IA se salga de control de las formas mencionadas en el informe, el riesgo más inmediato es que la tecnología reemplace puestos de trabajo y personas. Empresas como BT e IBM ya están buscando hacer esa transición.

Hablando ante el Congreso de los EE. UU. sobre la necesidad de una regulación de la IA, el CEO de Open AI, Sam Altman, expresó su esperanza de que, si bien se perderán puestos de trabajo, se crearán otros nuevos y mejores.