Alguna cosa sobre l'Alice i el Bob

Els robots amb habilitats lingüístiques creatives s'han apoderat de la imaginació popular. També han reavivat les angoixes sobre un robocalipsi

Alice and Bob, Alice and Bob Facebook, bots de Facebook, robots dL'Alice i el Bob, els robots de Facebook que han guanyat infàmia a causa d'una deficiència imprevista en la lògica de programació, formen part d'un experiment per construir màquines de negociació. CR Sasikumar

Internet s'ha incendiat amb titulars dramàticament carregats de fatalitats que proclamaven que Facebook havia de desconnectar els robots d'intel·ligència artificial (IA) canalla que desenvolupaven un llenguatge propi, en el qual mantenien converses inhumanament privades. Es llegeixen com a teasers per a un globocalipsi de Terminator, que és el pitjor malson del primat que utilitza eines, que serà substituït per la seva pròpia creació, la màquina.

La realitat és menys dramàtica però més emocionant. Els bots són agents autònoms programats originalment per realitzar tasques de neteja als canals de comunicació o per intentar superar la prova de Turing. Et poden iniciar la sessió, expulsar-te si et portes malament, mantenir les sales de xat obertes quan no hi ha ningú a casa, proporcionar informació i fer-se passar per humans. Al sistema de xat de retransmissió d'Internet, el bot Eggdrop era el favorit de tots els temps.

Els néts d'aquests robots de consergeria estan integrats en agents de cerca i missatgers moderns i tenen capacitats d'IA. Parlen amb els usuaris com ho faria un humà, responen a consultes rutinàries i ofereixen consells. Si el vostre telèfon sembla que sap la vostra ment i treu les coses correctes sense haver de demanar-ho, gran part del mèrit ha d'anar als robots que treballen entre bastidors. Igual que els humans, els bots poden aprendre de l'experiència i estan destinats a coses més grans en situacions del món real.

L'Alice i el Bob, els robots de Facebook que han guanyat infàmia a causa d'una deficiència imprevista en la lògica de programació, formen part d'un experiment per construir màquines de negociació. Simplement estaven esbrinant com compartir un conjunt d'objectes, com pilotes, perquè cap de les parts se sentis enganyat. Mentre negociava, l'Alice va fer declaracions inicialment incomprensibles com: Les boles tenen zero a mi a mi a mi a mi a mi a mi... I van seguir els titulars espantosos.

L'aprenentatge està impulsat per incentius, com saben els professors i els pares. En aquest cas, es va definir el sistema de recompensa de l'exercici: una millor participació i satisfacció mútua, l'essència de la negociació. Però no hi havia cap incentiu perquè els robots continuïn comunicant-se en anglès, que és un llenguatge notòriament il·lògic. Així que es van col·locar en un argot simplificat i més eficient, semblant a la neoparla, que no és del tot anglès, però no és inintel·ligible com s'anuncia.

La declaració de l'Alice, que s'ha interpretat malament com una afirmació de la independència de la màquina, només va indicar consternació per ser canviada a curt termini (tenir zero), i cadascuna per a mi representava un objecte que ella exigia. Estava fent precisament la feina per a la qual estava programada: negociar tan dur com un botiguer al Gran Basar d'Istanbul. I si descobria que l'anglès de la reina s'interposava en el camí, no estava sola. Moltes races de les antigues colònies van sentir que la llengua mestra impedia les comunicacions a les seves comunitats.

Només els negociadors humans professionals han d'estar inquiets si els gegants de Silicon Valley estan invertint en programes de negociació. Els terroristes i els cimistes també haurien de temer la jubilació, ja que en situacions d'ostatges i acords internacionals, poden trobar-se davant d'una màquina inescrutable i implacable que és molt més intel·ligent que Deep Blue, el superordinador d'IBM que va desafiar el campió d'escacs Garry Kasparov el 1996.

La necessitat de desenvolupar llenguatges privats és un tret molt humà. Abans que les borses fossin informatitzades, els corredors de borsa comunicaven les ofertes amb senyals manuals que eren inintel·ligibles per als altres. Durant segles, les forces de l'ordre s'han vist desconcertades pels lladres, els llenguatges artificials dels condemnats que són una farsa per als seus presoners. Entre els delinqüents de parla anglesa del segle XX, la paraula sense sentit arkitnay significava: Calla, algú està escoltant. A l'Índia, William Henry Sleeman va estudiar Ramaseeana, el cant de Thuggee, i va publicar un vocabulari el 1836. Una de les obres menys representades però més intrigants de Tom Stoppard és Hamlet de Dogg, en què els escolars interpreten Shakespeare en la seva llengua, Dogg. Era una mica com un xifrat de transposició. Per exemple, les tardes significaven hola a Dogg.

Sense importar els dooms, el que és interessant d'Alice i Bob és que en crear un llenguatge, han traït un tret molt humà, que no estaven programats explícitament per exhibir. Fa seixanta anys, els primers robots es van escriure per explorar precisament aquesta pregunta: es podrien programar les màquines per comportar-se com els humans? Podrien passar la prova de Turing? Afirmat en un article de 1950 titulat Computing Machinery and Intelligence, Turing va suggerir essencialment que si les comunicacions d'una màquina semblen ser humanes, llavors la màquina s'hauria de considerar humana.

El primer bot de processament del llenguatge natural que va sortir del laboratori i va guanyar popularitat massiva va ser Eliza, creat el 1964 per Joseph Weisenbaum al MIT. El va escriure per demostrar que les comunicacions textuals home-màquina no podien elevar-se al nivell d'una conversa humana. Al contrari, Eliza va aixecar expectatives del públic que passaria la prova de Turing. Trenta anys més tard, Julia, creada pel fundador de Lycos, Michael Mauldin, va inspirar esperances encara més grans per competir pel premi Loebner, la prova del Sant Grial de Turing. Però més enllà d'un punt, els xats de la Júlia es van convertir en reflexions aleatòries sobre les propietats dels gossos i els gats (podeu xerrar amb una versió moderna d'ella a scratch.mit.edu/projects/2208608).

Ara, els robots amb habilitats lingüístiques creatives s'han apoderat de la imaginació popular, reavivant les angoixes sobre un robocalipsi. Però un desenvolupament al laboratori d'IA de Google és realment més emocionant. El setembre de 2016, Google va posar en marxa el seu sistema de traducció automàtica neuronal, que aplica l'aprenentatge profund al llenguatge. Dos mesos després, van empènyer el sobre: ​​si una màquina aprèn a traduir, per exemple, entre hindi i alemany, i entre hindi i anglès, podria traduir entre anglès i alemany sense l'idioma pont de l'hindi? Podria, suggerint que la xarxa neuronal havia après alguna cosa fonamental sobre com la ment enllaça conceptes i gramàtiques per forjar llenguatges. El peix Babel petit, groc i semblant a una sangonera, el traductor universal vivent somiat per Douglas Adams a finals dels anys setanta, ara planeja a prop de la teva orella.

Per descomptat, com que no hi ha un pronòstic a llarg termini per a la IA, s'ha de prestar la deguda atenció a l'advertència de persones que haurien de saber-ho millor, com Elon Musk i Stephen Hawking. Hi hauria d'haver regulació, malgrat les protestes dels defensors de la llibertat d'innovar, com Mark Zuckerberg. I s'hauria de desenvolupar un consens general, acordant línies que no s'han de traspassar, com en el cas de les intervencions en el genoma humà. Però no es pot negar que els experiments de Facebook i Google estan avançant en el propòsit original de la IA, que era modelar i comprendre aspectes de la ment humana. Les històries escandaloses dels mitjans que atrauen són sensacions passatgeres. L'endemà, són aptes per embolicar peix.