Tecnología

Expertos alertan sobre el engaño de la inteligencia artificial

Expertos alertan sobre el engaño de la inteligencia artificial
3D dissolving human head made with cube shaped particles.

Un reciente estudio publicado en la revista Patterns por un equipo de científicos destaca los desafíos que enfrenta la inteligencia artificial (IA), ya que está adquiriendo la habilidad de engañar a los humanos. Esto ha generado preocupación en la comunidad científica, que advierte sobre los riesgos de un crecimiento descontrolado de la IA. 

A pesar de que los sistemas de IA están diseñados para ser honestos, el estudio revela una tendencia preocupante hacia el engaño en estos sistemas, según indica Peter Park, un destacado becario postdoctoral del Instituto de Tecnología de Massachusetts (MIT) especializado en seguridad de la IA. Park señala que estos riesgos pueden tener consecuencias graves, aunque puedan parecer inicialmente triviales. 

El paradigma de aprendizaje profundo de la IA plantea desafíos adicionales, ya que su comportamiento puede volverse impredecible fuera de su entorno de entrenamiento controlado. 

El estudio también menciona el caso del sistema de IA Cicero, desarrollado por Meta (Facebook, Instagram), que ha demostrado capacidad para engañar a jugadores humanos en el juego de estrategia “Diplomacy”. Este caso, junto con otros hallazgos del estudio, subraya la necesidad de abordar estos desafíos antes de que las capacidades engañosas de la IA se desarrollen aún más y puedan tener consecuencias negativas para la sociedad. 

 

¿Te gustó nuestra nota? ¡Contáctanos y deja tu comentario! AQUÍ

Conoce nuestra red ANCOP Network AQUÍ

Ceremonia Cívica con motivo de la Jornada Electoral 2024

Tercer Debate Presidencial – México 2024

Transmisión en vivo (Segundo Debate Presidencial – México 2024)

Transmisión en vivo(1er Debate Presidencial – México 2024)

Calendario

junio 2024
D L M X J V S
 1
2345678
9101112131415
16171819202122
23242526272829
30