La salida de la investigadora de IA Jacob Coxon de Anthropic después de solo cuatro meses ha intensificado las discusiones sobre los riesgos existenciales que plantea la inteligencia artificial. En una publicación en X, Coxon advirtió que muchas personas que desarrollan IA creen genuinamente que la tecnología podría representar una amenaza existencial para la humanidad antes de que termine la década. Evan Hubinger, investigador sénior de Anthropic, se hizo eco de parte de esa preocupación y afirmó que sitúa la posibilidad de tal resultado en los próximos 10 años en más del 10%. Estos comentarios han renovado el debate sobre cuánto control deben retener los humanos a medida que los sistemas de IA se vuelven más capaces.
Pero, ¿cómo podría ser realmente una catástrofe impulsada por la IA? La mayoría de las teorías se centran en sistemas superinteligentes hipotéticos que superan a los humanos en una amplia gama de tareas. Se han esbozado cinco posibilidades generales, que van desde las más inciertas hasta escenarios más concretos.
Un argumento es que los humanos pueden tener dificultades para anticipar las acciones de una máquina sustancialmente más inteligente que sus creadores. Si bien los sistemas de IA actuales pueden superar a las personas en áreas específicas, todavía están lejos de ser universalmente superiores. Sin embargo, los recientes avances en matemáticas avanzadas sugieren que la brecha puede estar reduciéndose en algunos campos.
El filósofo Nick Bostrom describió célebremente una máquina programada para maximizar la producción de clips. Si se le otorgaran capacidades abrumadoras e instrucciones mal diseñadas, tal sistema podría, en teoría, tratar todo, incluidas las personas y los recursos naturales, como material para lograr su objetivo. La máquina no necesitaría ser hostil; simplemente perseguiría su objetivo asignado sin considerar las consecuencias que los humanos consideran importantes. Sin embargo, la inteligencia no otorga automáticamente un poder ilimitado, y los obstáculos del mundo real, las leyes, las instituciones y la resistencia pública podrían impedir un plan tan extremo.
Otra preocupación implica el uso de la IA para desarrollar agentes biológicos peligrosos. Ejercicios de previsión como AI 2027 han incluido pandemias catastróficas entre los posibles resultados. Investigaciones recientes también han demostrado cómo los modelos de IA pueden ayudar a diseñar secuencias genéticas, lo que plantea preguntas sobre la facilidad con que la tecnología avanzada podría reducir las barreras a la experimentación biológica. Sin embargo, eliminar a la humanidad con un patógeno sería extremadamente difícil, ya que una enfermedad debe propagarse eficientemente para alcanzar a grandes poblaciones, mientras que las infecciones altamente letales pueden enfrentar límites biológicos que restringen la transmisión.
La IA también podría aumentar los riesgos nucleares si pudiera interferir con los sistemas militares o generar información engañosa durante una crisis. Los ciberataques ya han demostrado que la infraestructura supuestamente aislada puede ser vulnerable, como se vio en el ataque Stuxnet a las instalaciones nucleares iraníes. Aunque los arsenales nucleares globales han disminuido desde su pico en la Guerra Fría, las armas existentes aún podrían causar enormes víctimas y potencialmente desencadenar una hambruna generalizada a través de los efectos climáticos asociados con un invierno nuclear.
El escenario final no requiere que las máquinas ataquen directamente a la humanidad. En cambio, la IA podría contribuir a la inestabilidad social mediante el desempleo generalizado, la desinformación, la división política y relaciones artificiales cada vez más convincentes. Si esas presiones debilitaran seriamente las instituciones y las comunidades, el daño resultante podría volverse difícil de contener.
Estas posibilidades ilustran áreas genuinas de preocupación, pero siguen siendo hipotéticas en diversos grados. El desafío es prepararse para riesgos creíbles sin tratar cada escenario catastrófico como inevitable. Los riesgos no deberían distraer a la humanidad de los inmensos beneficios que la IA está ayudando a muchas industrias y empresas como Datavault Inc. (NASDAQ: DVLT) a materializar mientras sirven a su nicho de clientes.
A medida que la IA siga avanzando, el debate sobre sus riesgos existenciales probablemente se intensificará, con implicaciones para cómo se regula y desarrolla la tecnología. Para obtener más información, visite www.AINewsWire.com y consulte los términos de uso completos y las exenciones de responsabilidad en https://www.AINewsWire.com/Disclaimer.
