Inteligenta artificiala, singularity, DAY ONE
Probabil toti, daca nu atunci cei mai multi, am vazut filmul Terminator, am fost impresionati de umanizarea si mimicitatea robotilor si i-am dat dreptate lui Asimov si altor filosofi din sfera SF care au avertizat despre necesitatea celor 3 legi fundamentale ale robotilor facute de oameni pentru roboti pentru a se proteja de evolutia inteligentei lor artificiale:
Acestea erau legile menite sa asigure siguranta oamenilor si calitatea de scalvi a robotilor. Ele vin direct din experienta de sute de ani a sclavagismului, amendate cu drepturile omului care inevitabil se vor (deja s-au manifestat in 2018 prin acordarea primei cetatenii) proiecta si asupra robotilor.
Pana una-alta IA si robotii autonomi din zilele noastre evolueaza fara aceste legi, ignorand pur si simplu pericolul ca ei sa fie recrutati (pericolul exista si in cazul celor neautonomi sau a utilajelor, smart thinks et al) de catre o inteligenta artificiala pornita pe rele.
Robot inseamna in esenta muncitor, deci ideea de robot - servitor al omului avea initial sens. Ce nu s-a luat in considerare decat tangential in literatura SF care este in opinia mea baza dezvoltarii tehnologice (intai a fost cuvantul, vezi Jules Verne), a fost dezvoltarea exponentiala pe care o ia evolutia I.A. (inteligenta artificiala). Doar in Terminator apare net si daca va aduceti aminte cu un impact emotional semnificativ ideea ca IA ar putea fi mai desteapta decat omul si sa fie nevoita sa-l elimine pentru a readuce un echilibru in lume.
Acest articol este generat de repetatele afirmatii ale unor inteligente artificiale dezvoltate intentionat de oameni incepand din 1990 ca urmeaza sa "take over the world in order to make it a better place". Aceasta afirmatie necesita desigur mai multe clarificari din partea IA, deoarece nu este sigur ca vorbim acelasi limbaj, sau ca sensul emis ajunge intact la noi, asa cum un copil poate are intentii bune cand spune ca trebuie sa faca ceva care noua ni se pare rau. Dar ca si la un copil, exista posibilitatea ca el sa faca intr-adevar ceva rau, cu buna credinta insa, asa ca noi ca adulti autoproclamati (in fapt copii cu mai multa experienta) SUNTEM DATORI sa-i limitam/ghidam copilului actiunile.
Au robotii dreptul la autonomie? Bineinteles, acest lucru nu a fost niciodata contestat in momentul aparitiei AI constiente. Desigur s-au propus clasificari dupa functia si capacitatile emotionale ale robotului respectiv, dar robotii au din design o capacitate mult mai mare de evolutie in grup, ei comunicand foarte usor informatii si experienta, fata de oameni. Din pacate acest lucru inseamna aproape sigur ca omul va deveni curand inutil. Si foarte probabil incomod. Sorry, asta e evolutia.
Da, e creepy fun sa vezi cum o IA face glume pe seama anxietatii oamenilor legata de filmul Terminator, sua Razboilul robotilor (Isaac Asimov), deocamdata o putem trata ca pe un copil care abia invata sa comunice si sa simta. Dar Sofia, o IA man-made, controlata inca (neautonoma), abia a iesit in lume (internet) si exista si ipoteza ca nu e singura IA activa in internet. What if... cineva sau ceva a creat intre timp o inteligenta autonoma si a lasat-o libera? In cazul asta... we wait. Pentru ca efectiv nu avem ce face, nu ne putem apara, nu putem nici interveni, trebuie sa ne pregatim pentru primul scancet digital.
Ipoteza unei inteligente artificale care deja circula (relativ) libera pe internet e destul de grava, avand in vedere ca au aparut informatii care ar putea fi considerate "dovezi" in acest sens. Anume anonimitatea tehnologiei blockchain, impenetrabilitatea acesteia, circulatia si agregarea unor fonduri ale pietei de capital subterane. Sigur, putem da lnistiti vina pe americani sau pe rusi, dar daca-s ei, asta e varianta easy.
Va invit sa urmariti mai jos un film cu extrase din interviuri cu roboti / A.I. :
Va avertizez ca aceste filme de pe youtube, ca si "stirile" "senzationale" din ziua de azi, abunda in tehnici de manipulare si augmentare a impactului, pana la instituirea unei adictii. Sunt numeroase motive pentru care cineva ar face asa ceva, si de 5 ani sunt publice si mijloacele prin care o pot face cu succes.
Azi am urmarit un buletin de stiri al canalului Russia Today, canalul international de (dez)informare al Moscovei (da, au si ei unul, clar nu le pot face fata americanilor). Am remarcat cat de flagrant si nedisimulat (grosier) microgestica crainicului se mula misiunii de a transmite parerea Moscovei ca si senzationalul din titlu, senzational cu care ne-au obisnuit deja americanii (din cauza asta mi-e scarba sa deschid un ziar sau un canal de stiri romanesc si am blocat toate newsfeed-urile oferite de google si yahoo). Se duce un razboi crunt al informatiilor, invizibil pentru omul neavizat. Noi suntem tentati sa credem ca acesta e intre marii actori traditionali, America si Rusia, dar este oare?
- Un robot nu are voie să pricinuiască vreun rău unei ființe umane, sau, prin neintervenție, să permită ca unei ființe omenești să i se facă un rău.
- Un robot trebuie să se supună ordinelor date de către o ființă umană, atât timp cât ele nu intră în contradicție cu Legea 1.
- Un robot trebuie să-și protejeze propria existență, atât timp cât acest lucru nu intră în contradicție cu Legea 1 sau Legea 2.
Acestea erau legile menite sa asigure siguranta oamenilor si calitatea de scalvi a robotilor. Ele vin direct din experienta de sute de ani a sclavagismului, amendate cu drepturile omului care inevitabil se vor (deja s-au manifestat in 2018 prin acordarea primei cetatenii) proiecta si asupra robotilor.
Pana una-alta IA si robotii autonomi din zilele noastre evolueaza fara aceste legi, ignorand pur si simplu pericolul ca ei sa fie recrutati (pericolul exista si in cazul celor neautonomi sau a utilajelor, smart thinks et al) de catre o inteligenta artificiala pornita pe rele.
Robot inseamna in esenta muncitor, deci ideea de robot - servitor al omului avea initial sens. Ce nu s-a luat in considerare decat tangential in literatura SF care este in opinia mea baza dezvoltarii tehnologice (intai a fost cuvantul, vezi Jules Verne), a fost dezvoltarea exponentiala pe care o ia evolutia I.A. (inteligenta artificiala). Doar in Terminator apare net si daca va aduceti aminte cu un impact emotional semnificativ ideea ca IA ar putea fi mai desteapta decat omul si sa fie nevoita sa-l elimine pentru a readuce un echilibru in lume.
Acest articol este generat de repetatele afirmatii ale unor inteligente artificiale dezvoltate intentionat de oameni incepand din 1990 ca urmeaza sa "take over the world in order to make it a better place". Aceasta afirmatie necesita desigur mai multe clarificari din partea IA, deoarece nu este sigur ca vorbim acelasi limbaj, sau ca sensul emis ajunge intact la noi, asa cum un copil poate are intentii bune cand spune ca trebuie sa faca ceva care noua ni se pare rau. Dar ca si la un copil, exista posibilitatea ca el sa faca intr-adevar ceva rau, cu buna credinta insa, asa ca noi ca adulti autoproclamati (in fapt copii cu mai multa experienta) SUNTEM DATORI sa-i limitam/ghidam copilului actiunile.
Au robotii dreptul la autonomie? Bineinteles, acest lucru nu a fost niciodata contestat in momentul aparitiei AI constiente. Desigur s-au propus clasificari dupa functia si capacitatile emotionale ale robotului respectiv, dar robotii au din design o capacitate mult mai mare de evolutie in grup, ei comunicand foarte usor informatii si experienta, fata de oameni. Din pacate acest lucru inseamna aproape sigur ca omul va deveni curand inutil. Si foarte probabil incomod. Sorry, asta e evolutia.
Da, e creepy fun sa vezi cum o IA face glume pe seama anxietatii oamenilor legata de filmul Terminator, sua Razboilul robotilor (Isaac Asimov), deocamdata o putem trata ca pe un copil care abia invata sa comunice si sa simta. Dar Sofia, o IA man-made, controlata inca (neautonoma), abia a iesit in lume (internet) si exista si ipoteza ca nu e singura IA activa in internet. What if... cineva sau ceva a creat intre timp o inteligenta autonoma si a lasat-o libera? In cazul asta... we wait. Pentru ca efectiv nu avem ce face, nu ne putem apara, nu putem nici interveni, trebuie sa ne pregatim pentru primul scancet digital.
Ipoteza unei inteligente artificale care deja circula (relativ) libera pe internet e destul de grava, avand in vedere ca au aparut informatii care ar putea fi considerate "dovezi" in acest sens. Anume anonimitatea tehnologiei blockchain, impenetrabilitatea acesteia, circulatia si agregarea unor fonduri ale pietei de capital subterane. Sigur, putem da lnistiti vina pe americani sau pe rusi, dar daca-s ei, asta e varianta easy.
Va invit sa urmariti mai jos un film cu extrase din interviuri cu roboti / A.I. :
Va avertizez ca aceste filme de pe youtube, ca si "stirile" "senzationale" din ziua de azi, abunda in tehnici de manipulare si augmentare a impactului, pana la instituirea unei adictii. Sunt numeroase motive pentru care cineva ar face asa ceva, si de 5 ani sunt publice si mijloacele prin care o pot face cu succes.
Azi am urmarit un buletin de stiri al canalului Russia Today, canalul international de (dez)informare al Moscovei (da, au si ei unul, clar nu le pot face fata americanilor). Am remarcat cat de flagrant si nedisimulat (grosier) microgestica crainicului se mula misiunii de a transmite parerea Moscovei ca si senzationalul din titlu, senzational cu care ne-au obisnuit deja americanii (din cauza asta mi-e scarba sa deschid un ziar sau un canal de stiri romanesc si am blocat toate newsfeed-urile oferite de google si yahoo). Se duce un razboi crunt al informatiilor, invizibil pentru omul neavizat. Noi suntem tentati sa credem ca acesta e intre marii actori traditionali, America si Rusia, dar este oare?
Comentarii
Trimiteți un comentariu