Un reciente estudio publicado en la revista Patterns por un equipo de científicos destaca los desafíos que enfrenta la inteligencia artificial (IA), ya que está adquiriendo la habilidad de engañar a los humanos. Esto ha generado preocupación en la comunidad científica, que advierte sobre los riesgos de un crecimiento descontrolado de la IA.
A pesar de que los sistemas de IA están diseñados para ser honestos, el estudio revela una tendencia preocupante hacia el engaño en estos sistemas, según indica Peter Park, un destacado becario postdoctoral del Instituto de Tecnología de Massachusetts (MIT) especializado en seguridad de la IA. Park señala que estos riesgos pueden tener consecuencias graves, aunque puedan parecer inicialmente triviales.
El paradigma de aprendizaje profundo de la IA plantea desafíos adicionales, ya que su comportamiento puede volverse impredecible fuera de su entorno de entrenamiento controlado.
El estudio también menciona el caso del sistema de IA Cicero, desarrollado por Meta (Facebook, Instagram), que ha demostrado capacidad para engañar a jugadores humanos en el juego de estrategia “Diplomacy”. Este caso, junto con otros hallazgos del estudio, subraya la necesidad de abordar estos desafíos antes de que las capacidades engañosas de la IA se desarrollen aún más y puedan tener consecuencias negativas para la sociedad.
¿Te gustó nuestra nota? ¡Contáctanos y deja tu comentario! AQUÍ
Conoce nuestra red ANCOP Network AQUÍ
Agregar comentario