En los últimos meses, las redes sociales han ardido con un debate recurrente: los límites éticos de la inteligencia artificial y los riesgos que implica su mal uso. Un ejemplo reciente es la denuncia presentada contra OpenAI por los padres de un adolescente fallecido, quienes acusaban al chatbot de ChatGPT de haber “alentado y validado” los pensamientos suicidas de su hijo.
Frente a la creciente polémica, Sam Altman, CEO de OpenAI, se dirigió a la audiencia en redes este martes 16 de septiembre para abordar la situación. En su comunicado, Altman reconoció ciertos fallos de la herramienta, defendió decisiones de la compañía y prometió medidas para corregirlas.
Sam Altman, líder de OpenAI: "Nuestros principios a veces entran en conflicto y debemos justificar cada decisión que tomamos"
"No espero que todos coincidan con nuestra explicación, pero dado el conflicto de intereses, es crucial aclarar cómo tomamos decisiones", arrancaba el consejero delegado de la empresa. "Algunos de nuestros principios están en tensión, y queremos explicar cómo gestionamos situaciones que implican la seguridad, la libertad y la privacidad de los adolescentes", afirmaba Altman.
El directivo subrayó la importancia de proteger la privacidad de los usuarios. "Las personas comparten cada vez más información sensible con la IA, diferente de cualquier otra tecnología previa. Conversaciones que van desde problemas médicos hasta legales deben recibir la misma protección que tendrían con un profesional humano. Estamos defendiendo esto ante los responsables políticos", añadía.
Altman detalló que OpenAI trabaja en sistemas de seguridad avanzados para proteger datos de usuarios y empleados, con mecanismos de supervisión automática para detectar posibles abusos graves y escalarlos cuando haya riesgo de daño físico o social significativo. El CEO también abordó la libertad de los usuarios.
"Queremos que las personas puedan usar nuestras herramientas con un amplio margen de acción, siempre con seguridad", defiende. "Por ejemplo, aunque el modelo no fomentará conversaciones sexuales por defecto, un adulto que lo solicite debería poder acceder a ellas. Del mismo modo, un usuario adulto que necesite ayuda para escribir ficción sobre suicidio podrá hacerlo, sin comprometer la seguridad de otros", concluía al respecto.
La protección de los menores es otro pilar central. "La seguridad de los adolescentes prima sobre la privacidad y la libertad. Estamos desarrollando sistemas para estimar la edad de los usuarios y separar a los menores de 18 años. En casos de duda, priorizaremos la seguridad y, si es necesario, podremos solicitar identificación en ciertos países, a pesar de la afectación a la privacidad de los adultos", explicó Altman.
ChatGPT limitará a los menores el acceso a conversaciones sobre suicidio, autolesiones o contenido sexual, incluso en contextos ficticios. Ante situaciones de riesgo, se notificará a los padres o a las autoridades para proteger al usuario. "Somos conscientes de que nuestros principios pueden entrar en conflicto y que no todos estarán de acuerdo con nuestras decisiones. Tras consultar con expertos, consideramos estas medidas las más responsables y queremos mantener total transparencia", concluía el CEO de OpenAI.
