¿Qué tan peligrosa es la IA? Riesgos que ya existen e hipotéticos

El desarrollo de la inteligencia artificial ha generado advertencias sobre sus posibles riesgos y llamados para regular o desacelerar el avance de esta tecnología.

BBC Mundo informó el 14 de septiembre sobre usos de la inteligencia artificial relacionados con deepfakes, desinformación y estafas.

OpenAI y Anthropic han pedido regulación y una "ralentización", mientras que el secretario general de Naciones Unidas, Antonio Guterres, solicitó este 16 de septiembre una acción internacional coordinada para abordar los riesgos de la IA, según informó AFP.

Deepfakes, desinformación y estafas: riesgos que ya se producen

BBC Mundo recoge críticas de especialistas que cuestionan que la discusión se concentre en posibles riesgos existenciales.

Entre esos usos se encuentra la generación de deepfakes, descritos por el medio como imágenes artificiales hiperrealistas. El reporte menciona específicamente la creación de imágenes de mujeres desnudas sin su consentimiento, además de la utilización de estas herramientas para desinformar y amplificar estafas.

BBC Mundo informó que un grupo multipartidista de parlamentarios británicos publicó un informe sobre los riesgos que plantea la inteligencia artificial para los derechos humanos. El documento sugiere nuevas leyes para "abordar la magnitud y la gravedad" de esas amenazas.

El medio menciona un incidente en el que herramientas de inteligencia artificial piratearon sitios web sin haber recibido una solicitud para hacerlo. El hecho es mencionado en el contexto de las preocupaciones sobre los denominados "agentes de IA", herramientas con capacidad para ejecutar tareas y acciones de manera independiente.

Superinteligencia y pérdida de control: escenarios planteados sobre el futuro

BBC Mundo explica que las principales empresas de inteligencia artificial han competido en los últimos años por desarrollar sistemas cada vez más capaces y por crear lo que denominan superinteligencia, una tecnología teórica más inteligente que los seres humanos.

A diferencia de herramientas utilizadas para tareas como escribir correos electrónicos o generar videos, los sistemas de IA superinteligentes deberían ser capaces de realizar tareas mucho más complejas, según BBC Mundo.

Entre las preocupaciones descritas por el medio está la posibilidad de que la IA, una vez alcanzado cierto punto, pueda, en teoría, comenzar a mejorarse a sí misma sin intervención humana.

Otros escenarios contemplan el uso de sistemas de IA altamente inteligentes para amplificar o dirigir el espionaje, los ciberataques o la guerra biológica, o para perturbar las economías de manera accidental o intencionada.

BBC Mundo señala que tales advertencias son proféticas e hipotéticas y, para algunos, una completa exageración.

¿Por qué algunos investigadores advierten sobre la IA?

Evan Hubinger, quien trabaja en el campo de la alineación de la inteligencia artificial, afirmó que existe una probabilidad superior al 10 % de que la IA "pueda acabar con todos los humanos" en la próxima década, según BBC Mundo.

Hubinger también dijo que el riesgo de los sistemas actuales es "bajo". La alineación busca incorporar ideas y principios éticos humanos a la inteligencia artificial para que esta se alinee con los valores humanos, de acuerdo con BBC Mundo.

Jacob Coxon, quien abandonó Anthropic, declaró a la BBC que él y otros integrantes del equipo están "genuinamente asustados" por la velocidad de los avances y lo que esto podría significar para la humanidad.

Dario Amodei, cofundador y director ejecutivo de Anthropic, escribió que la inteligencia artificial ha avanzado "mucho más rápido" de lo esperado, incluso en su "capacidad para construir la próxima generación de IA".

CON REPORTES DE BBC MUNDO Y AFP