22.3 C
Pereira
jueves, junio 20, 2024

OpenAI disuelve equipo de seguridad dedicado a los riesgos futuros de la inteligencia artificial

OpenAI, la firma detrás de ChatGPT, ha confirmado la disolución de su equipo de «superalineación», un grupo dedicado a mitigar los peligros a largo plazo de la inteligencia artificial (IA). Esta decisión se produce en un momento en que la empresa enfrenta crecientes críticas sobre la seguridad de sus desarrollos en IA.

La disolución del equipo, que comenzó hace semanas, ha integrado a sus miembros en otros proyectos e investigaciones dentro de la empresa. Este movimiento ha generado preocupaciones y ha sido motivo de debate entre los empleados y la dirección de OpenAI.

Jan Leike, el directivo responsable del grupo de seguridad, anunció su renuncia el viernes pasado en la red social X (anteriormente conocida como Twitter). Leike explicó que dejó su puesto debido a desacuerdos fundamentales con la alta dirección sobre las prioridades de la empresa, enfrentando una disyuntiva entre la innovación y la seguridad. «Hemos llegado a un punto de ruptura», declaró Leike, quien instó a todos los empleados de OpenAI a actuar con la seriedad que justifica lo que están construyendo.

El grupo de «superalineación» tenía como objetivo garantizar que una futura IA general, capaz de igualar la inteligencia humana, estuviera alineada con los valores de la sociedad. Esta responsabilidad se consideraba crucial para la seguridad a largo plazo de las tecnologías de IA.

Sam Altman, cofundador y consejero delegado de OpenAI, expresó su tristeza por la partida de Leike. «Tiene razón, aún nos queda mucho por hacer en cuanto a la investigación sobre alineación y seguridad, y estamos decididos a hacerlo», comentó Altman.

El equipo de «superalineación» también estaba dirigido por Ilya Sutskever, cofundador de OpenAI, quien anunció su salida el martes. Sutskever y Leike eran figuras clave en la búsqueda de soluciones para los riesgos futuros de la IA, y su partida ha generado incertidumbre sobre el futuro de estos esfuerzos en la empresa.

Con ChatGPT, OpenAI lanzó la revolución de la IA generativa, una tecnología capaz de producir contenido a partir de peticiones en lenguaje cotidiano. Aunque ha sido aclamada por su innovación, también ha suscitado preocupaciones sobre su seguridad y el uso de datos, tanto entre analistas como reguladores en Estados Unidos y Europa.

Esta semana, OpenAI presentó una nueva versión de ChatGPT, que ahora puede mantener conversaciones orales fluidas con sus usuarios, un avance significativo hacia asistentes de IA más personales y potentes. Sin embargo, la disolución del equipo de «superalineación» pone en duda cómo OpenAI abordará los desafíos de seguridad y alineación a medida que avanza en el desarrollo de tecnologías de IA cada vez más sofisticadas.

 

SUSCRÍBETE A NUESTRO BOLETÍN INFORMATIVO

Para estar bien informado, recibe en tu correo noticias e información relevante.

 
- Publicidad -

Para estar informado

- Advertisement -
- Publicidad -
- publicidad -