(Crystl nuotrauka)
2007-ųjų spalį per karines pratybas Pietų Afrikoje „kuoktelėjo“ robotizuotas priešlėktuvinis pabūklas ir į saviškius kareivius paleido salvę iš penkių 35 mm Oerlikon MK5 vamzdžių. Devyni kariai žuvo, dar keturiolika buvo sužeisti. Šiemet Švedijos gamykloje robotas pabandė nusukti darbininkui galvą. Šie paskiri atvejai dar nieko nereiškia, tačiau robotų kūrėjai jau ragina kurti robotų ir žmonių santykių taisykles, galvoti apie bendravimo su robotais etiką ir apie bausmes prasikaltusiems robotams.
Per anksti? Amerikiečių namuose šiandien yra daugiau kaip 3 milijonai grindų valymo ir dulkių siurbimo robotukų Roomba ir Scooba. Šie realiai grėsmės nekelia – net jei sutriktų jų protelis, nebent kojos pirštą numintų, tačiau mokslininkai teigia, kad bendravimo, darbo ir gyvenimo su robotais problemos bus tikrai aktualios jau 2030-aisiais.
Tai, ką plačioji visuomenė galvoja apie robotų elgesio normas, yra gauta iš Isaaco Asimovo fantastinių apsakymų ir romanų. Garsiosios trys robotikos taisyklės sako, kad:
- Robotas negali pakenkti žmogui arba leisti, kad dėl roboto neveiklumo žmogui būtų padaryta žala.
- Robotas turi paklusti žmogaus nurodymams, išskyrus atvejus, kai tai prieštarauja pirmąjai taisyklei.
- Robotas turi rūpintis savimi, išskyrus tuos atvejus, kurie prieštarauja pirmąjai ir antrąjai taisyklėms.
Tačiau ir pats Asimovas daugelio savo apsakymų fabulą kūrė iš situacijų, kai šios trys taisyklės yra sunkiai ar net visiškai nepritaikomos. Be to, jos veiks tik tuo atveju, kai roboto turima informacija ir gebėjimas mąstyti prilygs žmogiškąjam. Tarkime, jei robotui ligoninėje skubiai prireikė pakrauti savo akumuliatorius, jis turi pakankamai žinoti apie žmonių gydymą, kad neatjungtų ligonio dirbtinio kvėpavimo aparato. Antraip jis gali pagalvoti, kad žmogus ilsisi ir elektra jam šiuo metu nereikalinga.
Dar keblesnė situacija yra su bausmėmis robotams. Iki šiol viskas buvo paprasta – dėl roboto neveikimo ar netinkamo veikimo buvo kalti jo kūrėjai (arba retesniais atvejais jo operatoriai). Tačiau jei užsakovas nori roboto su dirbtiniu intelektu ir autonomišku sprendimų priėmimo režimu, tai bausti už netinkamus roboto sprendimus jau reikėtų patį robotą. O kaip?
Man šiek tiek gaila, kad nesulauksiu dienos, kai šios problemos bus ant žurnalų (ar to, kas bus vietoje jų) „Psichologija tau“ viršelių. Bet galiu dar kartą perskaityti Asimovo „Aš robotas“. Jei kas dar neskaitė – labai rekomenduoju. Ypač jei nemėgstate fantastikos…
8 Comments
Man atrodo tavo minėta kūrėjo/operatoriaus kaltė yra teisingiausias variantas. Kaip ir su kita technika ar programine įranga už klaidas turėtų atsakyti kūrėjas. Net ir robotai su šiuolaikiniu dirbtiniu intelektu, net ir labai panašūs į žmones, vistiek yra apriboti jų kūrėjo ir gali padaryti tai kiek yra užprogramuoti, o jei dirbtiniam intelektui „sutriktu protelis“ tai vėl programuotojo klaida.
O tos taisyklės, tai per sudėtinga būtų jas programiškai realizuoti, reiktų iš pradžių sukurti robotus su tokiu dirbtiniu intelektu kurie visiškai suvokia aplinka ir iš tikro supranta ką tos taisyklės reiškia. Bet tokiu atveju jau būtų daug baisiau, gal kaip tame romane (aš tik filmą žiūrėjau, bet labai patiko).
Manau, kad prieš klausiant, ar bausti, reiktų išsiaiškinti, kas tai yra bausmė robotui ir kokia iš jos nauda. Manau, kad užtvojimas veržliarakčiu nuramintu budelio nervus, bet rezultatas toks ir išliktu – nuraminti budelio nervai :)
Šiaip man pati baudimo idėja irgi užkliuvo. Kodėl išvis reikia bausti, atrodo robotas negali būti piktybinis, ji tikrai reiktų bandyti pamokyti, kaip ir su vaikais iš pradžių būna manau. Taip sakant blogas auklėjimas turi savo pasekmės, gal taip terminatorius ir prasidės…
Hmm… na o kaipgi robotai kurie ir yra skirti zudymui? Kaip kad tas „robotizuotas priešlėktuvinis pabūklas“ is iraso? Juk jo darbas yra zudyti zmones, o jis tieisog apsiriko ir ne i tuos saude. Deje, realybeje tos trys taisykles is tikruju nera labai placiai pritaikomos…
bausmė yra išjungti :)
o aš matyt, tuo laiku kai gatvėmis vaikščios tie protingi robotai būsiu per daug konservatyvi senulytė ir arba naudosiu tik buką dukliasiurblį, arba pasiklausiu tik tais, kuriems, jei kas, net savo drebančiomis rankomis „ant greitųjų“ galėsiu išrauti akumą :D
Skaitydamas vietą apie robotų baudimą, iškart prisiminiau kadrą iš Animatrix, kur už vieno roboto klaidą buvo pradėta naikinti visa serija (Panaši scena buvo ir „Aš Robotas“), kas buvo toliau, žino visi matę „The Matrix“. Kol kas tokie dalykai egzistuoja tik filmuose ir knygose, todėl švaistyti žmogiškuosius resursus, kad būtų sukurtos kažkokios taisyklės neverta. Kai žmonės įvaldys dirbtinį intelektą, jau bus pribrendę ir taisyklių kūrimui.
Beje esu ir aš vieną sukūręs: http://www.youtube.com/watch?v=XEgeij3pxsM
Asimovas ir kiti fantastai privėlė painiavos.Jeigu robotas panašus į žmogų,tai su juo ir reikia elgtis kaip su žmogum?Tai yra bausti,skatinti,apdovanoti,smerkti…Mylėti? Nesąmonė! Robotas, koks tobulas bebūtų, yra žmogaus kūrinys-mašina, įrankis! Kas atsako už įrankio patikimumą?
Kartais tokios fantastinės idėjos ir besivystantys produktai verčia sunerimti, kas laukia ateityje. Paskui baigsis viskas kaip filme „I robot“, kai dirbtinis intelektas pradės žmones saugoti nuo jų pačių =]