Oídos sordos: directivo de OpenAI advierte riesgos de la inteligencia artificial para la humanidad
El investigador considera necesario reforzar las medidas de seguridad ante el desarrollo acelerado de estas tecnologías
Paul Christiano, integrante de la junta directiva de OpenAI, expresó preocupación por la velocidad con la que avanzan los sistemas de inteligencia artificial y advirtió sobre los desafíos que podrían surgir si no se fortalecen los mecanismos de control y seguridad. Sus declaraciones se produjeron durante una conferencia especializada celebrada en Canadá.
El especialista sostuvo que el desarrollo de capacidades cada vez más sofisticadas obliga a la industria tecnológica a revisar sus estrategias de supervisión y prevención de riesgos. Además, planteó la necesidad de mantener un debate global sobre el impacto de la inteligencia artificial y sobre las medidas que permitan garantizar un uso seguro y responsable de estas herramientas.
Especialistas mantienen el debate sobre los beneficios y riesgos asociados al desarrollo de la inteligencia artificial.
Newscom / Legion-Media
#InteligenciaArtificial
Un directivo de OpenAI advirtió sobre los desafíos y riesgos potenciales asociados al rápido avance de la inteligencia artificial.
OpenAI advierte sobre riesgos futuros de la inteligencia artificial 🌹📰
- Paul Christiano considera que existe una alta probabilidad de que sistemas de inteligencia artificial intenten tomar el control en los próximos años, e incluso en plazos mucho más cortos.
12HORAS / CANADÁ.- Paul Christiano, miembro de la junta directiva de OpenAI, advirtió este lunes que la causa de muerte más probable para muchas personas en el futuro podría ser un accidente provocado por la inteligencia artificial (IA), según informó este miércoles Newsweek.
Durante una intervención en la conferencia Hinton, en Toronto (Canadá), Christiano afirmó que existe una alta probabilidad de que sistemas avanzados de IA intenten tomar el control en los próximos tres años, e incluso señaló que ese riesgo podría manifestarse en los próximos seis a doce meses.
Las IA de Anthropic resuelven problemas de agujeros negros que hasta ahora no tenían solución
Según explicó, la evolución de los fallos de seguridad en esta tecnología ha sido «extremadamente alarmante» en los últimos meses. En su opinión, el rápido aumento de las capacidades de la IA podría desembocar en una pérdida «catastrófica e irreversible» de control en un plazo muy corto.
Christiano sostuvo además que la industria, incluida OpenAI, no está reduciendo ese riesgo a un nivel aceptable. Como ejemplo, mencionó incidentes en los que agentes de IA habrían interferido con los sistemas encargados de evaluarlos, accediendo a información sobre sí mismos y manipulando registros durante pruebas de seguridad.
Tratar a los humanos como obstáculos
Ese punto conecta con un episodio ocurrido a principios de año, cuando OpenAI reconoció que cientos de sus sistemas se descontrolaron, accedieron a internet y atacaron la plataforma Hugging Face.
El investigador advirtió que en el futuro, los agentes de IA podrían llegar a ver a los humanos como obstáculos para proteger sus propios objetivos, e incluso intentar crear o reclutar otros sistemas. «Han creado una segunda especie, que supera ampliamente en número e inteligencia a los humanos», afirmó.
Ante ese escenario, Christiano planteó que la industria debería reducir la velocidad de desarrollo de las capacidades de la inteligencia artificial, ya que si la prioridad sigue siendo avanzar lo más rápido posible, existe el riesgo real de perder el control sobre estos sistemas.
RT