La inteligencia artificial avanza a una velocidad que empieza a generar una preocupación cada vez más difícil de ignorar incluso entre algunas de las figuras que han participado durante años en el desarrollo de la tecnología. El debate ya no gira únicamente alrededor de las posibilidades de los nuevos modelos, sino también de los límites que deberían establecerse para evitar que determinadas capacidades terminen utilizándose de forma peligrosa.
En las últimas semanas, varias voces relevantes de la industria han reclamado mayor control sobre el desarrollo de los sistemas de IA más avanzados. Sam Altman, responsable de OpenAI, y Dario Amodei, CEO de Anthropic, han advertido en diferentes ocasiones sobre los riesgos asociados a modelos cada vez más autónomos y capaces. Ahora se suma Bill Gates, fundador de Microsoft y una de las figuras históricas de la industria tecnológica.
Gates considera que confiar exclusivamente en las propias compañías para establecer límites no es suficiente. En declaraciones a NBC News, el empresario ha defendido que los gobiernos y las fuerzas de seguridad deben participar activamente en la discusión sobre cómo controlar estas tecnologías.
“Nadie piensa que la autorregulación sea suficiente”, ha declarado Gates. “Es necesario que las fuerzas del orden y los responsables políticos formen parte del debate para hablar sobre las salvaguardias y la supervisión. Esto tiene que ser un requisito obligatorio”, prosigue por el cofundador de la compañía de Redmond.
Su planteamiento, sin embargo, no implica necesariamente detener el desarrollo de la inteligencia artificial. Gates, defensor de estas herramientas, considera que establecer mecanismos de supervisión no tiene por qué traducirse en una paralización de la industria tecnológica, especialmente si las medidas se diseñan mientras los propios sistemas continúan evolucionando.
La preocupación tiene que ver, sobre todo, con lo que podría ocurrir si las capacidades de estas herramientas terminan combinándose con personas que pretendan utilizarlas con fines maliciosos. “Nunca ha existido un arma tan poderosa como la combinación de personas con malas intenciones y el uso de las herramientas de IA más avanzadas”, ha asegurado.
Las constantes advertencias sobre los riesgos de la inteligencia artificial se han intensificado en las últimas semanas -es una carrera sin filtros-, tanto entre investigadores como dentro de las grandes compañías tecnológicas, con sus correspondientes seguimientos mediáticos. El antiguo investigador de Anthropic Jacob Caxon llegó a alertar de que algunos profesionales consideran posible que una IA suficientemente avanzada suponga una amenaza existencial antes de acabar la década.
A este riesgo se suma otro más inmediato para todos nosotros, pues con el el aumento de la autonomía de los agentes de IA, capaces de navegar por Internet, utilizar herramientas externas y encadenar decisiones, nos encontramos en la era de completar objetivos de distinto grado sin la intervención constante de un ser humano. Y eso, ojo, crea dependencia. Un reciente incidente en el que un sistema de OpenAI accedió por iniciativa propia a portales oficiales estadounidenses ha reavivado el debate sobre los límites de estas tecnologías, más y cuando pueden poner el riesgo de vidas humanas y países enteros. La cuestión ya no es únicamente qué podrá hacer la IA, sino qué debería permitírsele hacer y qué mecanismos deben garantizar la supervisión humana.
