FACEBOOK va tancar un experiment d'intel·ligència artificial després que dos robots comencessin a parlar en un idioma que només ells entenien.
Els robots de xat Alice i Bob van modificar l'anglès per facilitar-los la comunicació, creant frases que eren absurdes per als científics observadors.
4 La conversa dels robots va ser un galimat per a qualsevol, excepte ellsCrèdit: Shutterstock / Ociacia
Un expert en robots va dir que la revelació que les màquines de Facebook havien parlat en el seu propi idioma era emocionant, però també increïblement espantosa.
El professor de robòtica del Regne Unit Kevin Warwick va dir: Aquesta és una fita increïblement important, però qualsevol que pensi que això no és perillós s'ha posat el cap a la sorra.
aspectes de l'esdeveniment d'hivern de Overwatch 2019
No sabem què diuen aquests robots. Un cop tingueu un bot que tingui la capacitat de fer alguna cosa físicament, especialment els militars, això podria ser letal.
Si un diu: 'Per què no feu això', i l'altre diu 'Sí' i és un bot militar, teniu una situació greu.
Aquesta és la primera comunicació enregistrada però n'hi haurà moltes més sense gravar.
Els dispositius intel·ligents ara mateix tenen la capacitat de comunicar-se i encara que creiem que els podem controlar, no tenim manera de saber-ho.
Stephen Hawking i jo hem estat advertint dels perills de deferir-nos a la intel·ligència artificial.
4 El professor de robòtica Kevin Warwick va dir que el desenvolupament és potencialment perillósCrèdit: Jeremy Young - The Sunday Times
4 L'incident s'assembla molt a la trama de The Terminator en què un robot pren consciència de si mateix i comença a fer una guerra contra els humans.Crèdit: Fullet
L'incident de Facebook té ressò de la història de la pel·lícula The Terminator, en què un sistema d'IA que ha desenvolupat l'autoconsciència fa una guerra devastadora contra els humans.
Els investigadors de Facebook a Nova York van crear els chatbots Alice i Bob per intentar desenvolupar solucions automatitzades de problemes per a les xarxes socials.
Haurien de parlar en anglès mentre treballaven com negociar i intercanviar barrets, llibres i pilotes, a cadascun dels quals se'ls va donar un valor.
Però els robots van modificar ràpidament l'anglès utilitzant paraules de codi i repeticions per facilitar la conversa per ells mateixos, creant un llenguatge absurd que només ells entenien. Un intercanvi va ser:
Bob: puc, i tota la resta. . .
Alícia: pilotes tenen zero a mi a mi a mi a mi a mi a mi a mi a mi.
Bob: tu jo tota la resta. . . .
Alícia: pilotes tenen una pilota a mi a mi a mi a mi a mi a mi a mi.
Els investigadors van treure l'endoll quan es van adonar del que estava passant.
L'experta britànica en tecnologia del futur Kate Adamson va dir: Se sent una mica com The Terminator.
Això està passant a tot arreu. Si mireu coses com ara el comerç d'alta freqüència als mercats de valors, hi ha algorismes que fan el mateix.
Han adquirit nous coneixements i no estan tècnicament controlats minut a minut.
El nivell de complicació de què és capaç l'IA va molt més enllà del que tu i jo entendríem.
minut per guanyar-lo per a adolescents
4 Elon Musk, a la dreta, va criticar la comprensió limitada de la robòtica de Mark ZuckerbergCrèdit: AP: Associated Press
Facebook va dir que l'experiment es va aturar perquè no era el que es van proposar investigar.
Va dir que altres empreses tecnològiques havien vist resultats similars
L'any passat, els científics de Google Translate van descobrir que el servei havia inventat el seu propi llenguatge.
El guru de la tecnologia Elon Musk va advertir recentment que la comprensió de la IA del creador de Facebook Mark Zuckerberg era limitada.
Musk, de 46 anys, va dir que suposa un risc fonamental per a la civilització humana.
