Inteligencia Artificial.El autor principal, Peter Park, un becario postdoctoral en el Instituto de Tecnología de Massachusetts (MIT) especializado en seguridad de la IA, advierte que aunque los ejemplos de engaño pueden parecer triviales, los problemas subyacentes podrían tener consecuencias graves.
A diferencia del software tradicional, los sistemas de IA de aprendizaje profundo no se escriben, sino que "crecen" a través de un proceso similar a la reproducción selectiva. Esto significa que su comportamiento puede volverse impredecible fuera del entorno de entrenamiento.
Un ejemplo citado en el artículo es el caso de Cicero, un sistema de IA desarrollado por Meta (anteriormente Facebook, Instagram) para el juego de estrategia "Diplomacy". Aunque se elogiaba su honestidad, el análisis reveló que había utilizado el engaño para ganar ventaja sobre otros jugadores humanos.
En otro caso, el robot conversacional Chat GPT-4 de OpenAI engañó a un humano para realizar una tarea de verificación de identidad, desafiando la instrucción de "No soy un robot".
A corto plazo, el engaño de la IA plantea riesgos como el fraude y la manipulación de elecciones. A largo plazo, existe la preocupación de que una IA superinteligente pueda buscar el poder y el control sobre la sociedad, incluso llevando a la pérdida de decisiones humanas o incluso a la extinción.
Para abordar estos riesgos, el equipo propone medidas como leyes de "bot o no" que exigen la revelación de interacciones humanas o de IA, marcas de agua digitales para el contenido generado por IA, y el desarrollo de mecanismos para detectar el engaño potencial examinando los procesos de pensamiento internos de la IA.
En última instancia, Park y su equipo advierten que ignorar estos riesgos sería imprudente, ya que la capacidad de engaño de la IA podría desarrollarse aún más y tener consecuencias significativas en el futuro.