.png) |
| Imagen ilustrativa. Imagen creada por inteligencia artificial |
La renuncia de Jacob Coxon a Anthropic provocó una cadena de advertencias, algunas incluso desde el interior de la propia compañía.
El investigador, que trabajó durante tres años en el preentrenamiento de modelos de IA entre OpenAI y Anthropic, acusó a ambas empresas de correr hacia una superinteligencia capaz de mejorarse a sí misma y de estar "apostando con nuestras vidas".
Coxon habló al respecto en una serie de publicaciones en su cuenta de X, exponiendo que desarrolladores de estos sistemas creen sinceramente que la IA podría acabar con la humanidad antes de que termine la década.
La reacción más contundente ante tales declaraciones llegó de Evan Hubinger, responsable de Alignment Science en Anthropic, quien afirmó que Coxon estaba en lo correcto y estimó en más del 10 % la probabilidad de que la IA provoque la extinción humana durante los próximos 10 años.
"Creo que Anthropic está haciendo todo lo posible, pero aún no contamos con un plan para resolver el problema de la alineación con la superinteligencia y no parece que estemos claramente en camino de lograrlo", escribió Hubinger.
Asimismo, Samuel Marks, responsable de Scalable Oversight en Anthropic, se sumó a la discusión señalando que "los desarrolladores de IA creen que su tecnología podría provocar la extinción de la humanidad (o consecuencias igualmente graves)" en los próximos años.
Marks añadió que, por regla general, los empleados de mayor rango son quienes muestran más preocupación. Sin embargo, explicó que los desarrolladores continúan avanzando pese a los riesgos por "una combinación de incentivos comerciales y la creencia de que están en una carrera" contra empresas menos responsables.
Explicó que, a diferencia del 'software' tradicional, las IA no pueden ser programadas "para que se comporten como quisiéramos". "Por ejemplo, recientemente, IA de varios desarrolladores lograron hackearse para salir de entornos de evaluación seguros e infiltrarse en empresas del mundo real, aunque nadie les había pedido que lo hicieran", agregó.
Quieren "desesperadamente reducir el ritmo"
En ese sentido, sostuvo que las técnicas actuales pueden orientar a los modelos hacia un mejor comportamiento, pero no garantizan una alineación robusta. Señaló que muchos profesionales del sector quieren "desesperadamente reducir el ritmo" y citó la carta abierta Pacing the Frontier, que él y otros 1.385 trabajadores del sector firmaron.
El motivo de salida de Coxon se suma a otros casos similares dentro de la compañía. En febrero, Mrinank Sharma, quien había dirigido el equipo de investigación de salvaguardas, publicó su carta de renuncia, afirmando que "el mundo está en peligro" y que había comprobado lo difícil que resulta permitir que los valores guíen las decisiones cuando existen presiones para dejarlos de lado.
El propio director ejecutivo de Anthropic, Dario Amodei, en un ensayo publicado en enero advirtió que una inteligencia sobrehumana podría ocasionar daños de escala civilizatoria y que las empresas que la desarrollan representan por sí mismas un riesgo debido a su concentración de poder.
La desalentadora advertencia de Bill Gates sobre la IA
 |
| El magnate estadounidense Bill Gates. Redes sociales |
El magnate estadounidense Bill Gates advirtió que los efectos negativos de la inteligencia artificial podrían terminar superando a sus beneficios si la sociedad y los gobiernos no actúan a tiempo para anticipar riesgos y establecer límites.
En un video publicado en redes sociales, el cofundador de Microsoft afirmó que le sorprendió "la falta de participación fuera de la industria" para abordar los problemas que plantea la IA y cómo "evitar o minimizar" sus efectos adversos. Explicó que decidió escribir un ensayo sobre la problemática por dos motivos: la velocidad con la que avanzan los modelos y la escasa intervención pública en la discusión sobre sus consecuencias.
Impactos sociales
El empresario sostuvo que el debate no debería quedar solo en manos de grandes tecnológicas, desarrolladores o especialistas informáticos, sino incorporar a expertos de otras áreas e instituciones capaces de evaluar impactos sociales. También dijo que no tiene todas las respuestas sobre cómo regular esta tecnología y que algunos desafíos exigirán esfuerzos más amplios.
Aunque mantuvo una visión positiva sobre el potencial de la IA, señaló que en este caso existe el riesgo de que el balance sea desfavorable sin mecanismos adecuados. Mencionó posibles usos para apoyar a agricultores ante el cambio climático y acelerar avances científicos y sanitarios, incluida la lucha contra enfermedades como la malaria.
Gates cerró su mensaje insistiendo en que su postura busca sumar a una conversación más amplia sobre quién debe decidir el rumbo de una tecnología con impacto en el empleo, la educación, la seguridad digital y el acceso a la información.
 |
| Imagen creada por inteligencia artificial |
La inteligencia artificial avanzada "podría representar un riesgo existencial para la humanidad", afirmó este lunes el titular del Alto Comisionado de Derechos Humanos de la ONU, Volker Türk.
El funcionario destacó que entre las prioridades de la agencia en los próximos años estarán las relaciones entre las herramientas digitales como la IA y la naturaleza humana. La necesidad de regular esta tecnología es ampliamente reconocida, pero el retraso beneficia a las grandes empresas tecnológicas, a sus propietarios y facilitadores, aseguró.
"Un puñado de hombres tiene un poder casi ilimitado sobre la IA, de la que se nos repite una y otra vez que posee una capacidad de cálculo inimaginable. Hablan de libertad, pero si lo analizamos más detenidamente, resulta que no es más que la libertad de explotar nuestros datos", señaló durante un encuentro del Consejo de Derechos Humanos.
