Los Simpson predijeron el mayor problema de la inteligencia artificial.
En el capítulo de Halloween donde consiguen una Pata de Mono que cumple deseos, Homero pide un sándwich de pavo y le sale con mostaza de más; Bart pide fama y termina siendo conocido por todos pero odiado; Lisa pide la paz mundial y desaparecen todas las armas.. pero Kang y Kodos bajan con una honda y un palo y conquistan todo porque nadie puede defenderse. Lisa pidió exactamente lo que quería pero fue un desastre, porque todos los deseos fueron tomados de manera literal. En inteligencia artificial, este problema se llama “alineación” y es, probablemente, el desafío más importante que tenemos: cómo hacer para que un modelo haga lo que realmente queremos. Porque es imposible contemplar todos los factores posibles en una instrucción y, cuanto más inteligente es el sistema, más eficiente es encontrando formas de cumplir lo que dijiste sin hacer necesariamente lo que querías. Esto no es un problema teórico: en uno de sus primeros experimentos públicos, OpenAI entrenó una IA para correr una carrera de botes con una instrucción clara: maximizá el puntaje. El modelo descubrió que no necesitaba correr ninguna carrera porque fuera de la pista había una laguna con tres targets que reaparecían solos, entonces metió el bote ahí y empezó a dar vueltas en círculos prendida fuego juntando los mismos tres puntos una y otra vez. Nunca terminó la carrera y sacó veinte por ciento más de puntos que un humano. El problema no fue de Lisa, que es bastante astuta, sino que las instrucciones perfectas no existen, y cada prompt que escribís es un deseo a un genio que no te conoce. Así que cuidado: cada vez que hables con tu inteligencia artificial, acordate de la Pata de Mono y de que Los Simpson…Siempre aciertan.