Alertan que inteligencia artificial podría amenazar a la humanidad con nuevo descubrimiento
- Por Constanza Galdames | Reuters
Investigadores de la empresa tecnológica OpenAI enviaron una carta a la junta directiva advirtiendo un descubrimiento de la inteligencia artificial (IA) que sería inquietante para la humanidad.
Según dijeron a Reuters dos personas familiarizadas con el asunto, el descubrimiento podría amenazar a la civilización.
La agencia no tuvo acceso a la misiva, sin embargo, explicaron que, de acuerdo a los trabajadores, la carta fue un factor que influyó en el despido de San Altman, quien era CEO de OpenAI.
En la carta, según ha trascendido, los trabajadores demostraban su preocupación por comercializar avances tecnológicos sin comprender sus consecuencias, haciendo alusión al proyecto Q* (pronunciado Q-Star), el cual está siendo desarrollado por OpenAI.
Nuevo proyecto tendría capacidades similares a la inteligencia humana
El proyecto Q* podría ser un avance en la búsqueda de la startup de lo que se conoce como inteligencia artificial general (AGI), teniendo funciones que, hasta ahora, solo eran posibles en humanos.
El AGI es definido por OpenAI como sistemas autónomos que superan a los humanos en la mayoría de las tareas económicamente valiosas. Una fuente que no quiso revelar su identidad indicó que el nuevo modelo podría resolver problemas matemáticos del nivel de estudiantes primarios, dicha función provocó que los investigadores tuvieran sus fichas puestas en el eventual éxito de Q*.
Los investigadores que enviaron la carta a la empresa de inteligencia artificial, consideran que la eventual capacidad matemática de la IA, donde solo hay una respuesta correcta, implica que la IA cuenta con capacidades de razonamientos que la asemejan a la inteligencia humana.
AGI, a diferencia de una calculadora, también podría generalizar, aprender y comprender problemas matemáticos. Las destrezas y el peligro potencial de la IA sería uno de los puntos claves que abordaron los investigadores en la carta.
Antes de ser despedido, Altman habría bromeado diciendo que creía que estaban vislumbrando avances importantes.
"Cuatro veces en la historia de OpenAI, la más reciente fue en las últimas dos semanas, he estado en la sala, cuando en cierto modo empujamos el velo de la ignorancia hacia atrás y la frontera del descubrimiento hacia adelante. Poder hacer eso es el honor profesional de mi vida", señaló Altman en la cumbre de Cooperación Económica Asia-Pacífico, un día antes de ser despedido.
Leer más de
