OpenAI forma un comité de seguridad tras salidas clave

OpenAI forma un comité: OpenAI, la empresa detrás de ChatGPT, anunció la formación de un nuevo comité de seguridad el […]

OpenAI forma un comité: OpenAI, la empresa detrás de ChatGPT, anunció la formación de un nuevo comité de seguridad el martes, semanas después de las salidas de ejecutivos clave que generaron preguntas sobre el compromiso de la firma con la mitigación de los peligros de la inteligencia artificial.

La empresa informó que el comité, que incluirá al CEO Sam Altman, se está estableciendo mientras OpenAI comienza a entrenar su próximo modelo de IA, que se espera supere las capacidades del sistema GPT-4 que impulsa ChatGPT.

«Si bien estamos orgullosos de construir y lanzar modelos líderes en la industria tanto en capacidades como en seguridad, damos la bienvenida a un debate robusto en este momento crucial,» declaró OpenAI.

Compuesto por miembros de la junta y ejecutivos, el comité dedicará los próximos 90 días a evaluar y fortalecer de manera exhaustiva los procesos y salvaguardas de OpenAI en torno al desarrollo avanzado de IA.

OpenAI también declaró que consultará a expertos externos durante este período de revisión, incluidos los exfuncionarios de ciberseguridad de EE. UU. Rob Joyce, quien anteriormente lideró esfuerzos en la Agencia de Seguridad Nacional, y John Carlin, un exalto funcionario del Departamento de Justicia.

Durante los tres meses, el grupo examinará los protocolos de seguridad actuales de IA de OpenAI y desarrollará recomendaciones para posibles mejoras o adiciones.

Después de este período de revisión de 90 días, los hallazgos del comité serán presentados a la junta completa de OpenAI antes de ser divulgados públicamente.

La formación del comité se produce a raíz de recientes salidas de ejecutivos que avivaron preocupaciones sobre las prioridades de seguridad de IA de OpenAI.

A principios de este mes, la empresa disolvió su equipo de «superalineamiento» dedicado a mitigar los riesgos a largo plazo de la IA.

Al anunciar su salida, el codirector del equipo, Jan Leike, criticó a OpenAI por priorizar «nuevos productos brillantes» sobre el trabajo vital de seguridad en una serie de publicaciones en X, la plataforma anteriormente conocida como Twitter.

«En los últimos meses, mi equipo ha estado navegando contra el viento,» dijo Leike.

OpenAI también ha enfrentado controversia por una voz de IA que algunos afirmaron imitaba de cerca a la actriz Scarlett Johansson, aunque la empresa negó intentar suplantar a la estrella de Hollywood.

arp/bfm

Otras artículo: Datos sobre la salud femenina, una herramienta esencial pero riesgosa