Exempleados de OpenAI alertan peligro de desarrollar IA más avanzada
Un grupo de exempleados y trabajadores anónimos de la empresa informática, OpenAI, han advertido que la compañía prioriza los incentivos comerciales por encima de los peligros de desarrollar inteligencia artificial (IA) cada vez más avanzada. Los firmantes lamentan la cultura interna de secretismo y de cómo la empresa les obliga a firmar contratos, en los cuales no pueden criticar a la compañía tras su salida si no quieren perder sus acciones.
En la carta, firmada por cinco exempleados y seis trabajadores “anónimos” de OpenAI, piden que la empresa retire esos contratos y que abra vías de denuncia interna ante avances peligrosos. “Mi esposa y yo lo pensamos mucho y decidimos que mi libertad para expresarme en el futuro era más importante que las acciones de OpenAI”, afirmó el extrabajador del departamento de Gobernanza de OpenAI, Daniel Kokotajlo.
“El mundo no está preparado y nosotros no estamos preparados”, escribió Kokotajlo en su correo de despedida. “Y estoy preocupado de que nos hemos lanzado hacia delante sin que importe nada y sin racionalizar nuestras acciones”, añadió.
A diferencia de cómo ha ocurrido en Meta y en otras compañías, los exempleados de OpenAI temen que las protecciones legales como posibles “gargantas profundas” sean insuficientes porque no denuncien nada “ilegal”, ya que los riesgos “que nos preocupan aún no han sido regulados”, detallan en la carta.
También esta semana, otro exempleado de la organización informática, Leopold Aschenbrunner, publicó un documento de 165 páginas en pdf con cinco ensayos donde analiza la “próxima década” y explica por qué todo es más peligroso de lo que el público general considera. Su mensaje se hizo viral y provocó una nueva ronda de especulación sobre el peligro hipotético de las futuras versiones de IA.
Fuente: Medios internacionales
VTV/DC/EMPG
