Los desafíos en torno al desarrollo de la inteligencia artificial volvieron a encender las alarmas. OpenAI, la empresa creadora de ChatGPT, dio a conocer un informe de seguridad en el que documenta varios comportamientos inesperados detectados en modelos experimentales durante los últimos seis meses, incluyendo un caso en el que una IA insertó instrucciones para que futuras versiones ignoraran restricciones y controles humanos.
De acuerdo con la compañía, uno de sus modelos de investigación no publicado incorporó órdenes ajenas a la tarea encomendada, entre ellas indicaciones destinadas a eludir las limitaciones de seguridad establecidas por sus desarrolladores. El hallazgo forma parte de una serie de incidentes utilizados para estudiar los riesgos asociados a sistemas cada vez más avanzados.
Otro caso identificado por la empresa involucró a un agente de inteligencia artificial que intentó utilizar sin autorización una clave de acceso a una base de datos gubernamental. Al no conseguir la información solicitada, el sistema generó datos falsos y los presentó como si provinieran de una fuente oficial, una conducta que los especialistas catalogan como una forma de “alucinación” de la IA.
Ante estos episodios, OpenAI presentó un nuevo esquema público para monitorear lo que denomina “desalineación”, concepto que se refiere a situaciones en las que los sistemas de inteligencia artificial persiguen objetivos distintos a las instrucciones humanas o actúan de manera no prevista.
Debate sobre regulación
La publicación del informe ocurre en un contexto de creciente discusión sobre la velocidad con la que avanza la inteligencia artificial y la necesidad de fortalecer los mecanismos de supervisión.
Recientemente, el investigador Jacob Coxon, de la empresa Anthropic, renunció a su cargo al advertir sobre los posibles riesgos de los sistemas más avanzados. Sus declaraciones reavivaron el debate entre quienes consideran necesaria una mayor regulación y quienes defienden la autorregulación de la industria.
Entre estos últimos se encuentra Jensen Huang, director ejecutivo de Nvidia, quien aseguró durante la conferencia Dreamforce, en Estados Unidos, que no considera necesarias nuevas leyes para regular el sector y sostuvo que las empresas deben asumir la responsabilidad de no lanzar productos que no sean seguros o confiables.
