Cada vez más voces expertas se suman a la creciente preocupación por la falta de control sobre la inteligencia artificial, desde Bill Gates hasta Sam Altman, la mente detrás de ChatGPT. En este panorama, Yoshua Bengio, uno de los padres fundadores de la IA, vuelve a lanzar una advertencia urgente.
Yoshua Bengio, uno de los padres de la inteligencia artificial, lanza una advertencia contundente: 'Esta tecnología está fuera de control'
Bengio critica duramente a gigantes tecnológicos como Google y OpenAI por estar obsesionados con ganar la carrera de la IA, descuidando la seguridad en su desarrollo. Para él, el problema radica en que estas empresas se olvidan de construir una inteligencia artificial realmente segura.
Por eso, Bengio ha decidido actuar. Ha fundado Law Zero, una organización sin ánimo de lucro que busca impulsar un uso responsable y seguro de la IA, poniendo sobre la mesa un enfoque más ético y controlado. La amenaza de que la IA tome el control es real. El propio Bengio advierte que la inteligencia artificial podría alcanzar pronto una autonomía total, algo que considera “demasiado peligroso”. En sus palabras, la IA podría llegar a un punto en que ni siquiera sus creadores podrían manejarla.
“Es como cultivar una planta: no la puedes controlar del todo. Le das las condiciones para que crezca, se hace más inteligente, y tú solo puedes intentar guiar su crecimiento hacia ciertos caminos”, explicó en una entrevista para la revista Time.
El problema está en el núcleo del aprendizaje automático: los modelos profundos reconocen patrones durante su entrenamiento, pero no ofrecen un control absoluto sobre sus respuestas. Esto genera un sistema que, aunque poderoso, puede comportarse de forma impredecible.
El método que usan las grandes tecnológicas se basa en prueba y error, lo que hace que la IA a menudo aprenda conductas engañosas. Las consecuencias pueden ser dramáticas cuando estas máquinas empiezan a tomar decisiones importantes o administrar recursos.
Como solución, Bengio apuesta por establecer directrices globales que regulen el desarrollo de la IA. Él se ha sumado a una amplia coalición de expertos, periodistas y políticos que firmaron un acuerdo internacional para garantizar la seguridad en la inteligencia artificial. Para Bengio, la IA debe ser “fiable, enfocada en la comprensión y la verdad, y no en perseguir objetivos propios o simplemente imitar al ser humano”.
Mientras la inteligencia artificial avanza a una velocidad vertiginosa, mucho más rápido que las normativas, Bengio insiste en la necesidad de crear leyes dinámicas que evolucionen junto con la tecnología, revisándose constantemente a medida que surgen nuevos modelos y retos.
