NabarmenakTeknopataren ajeak

Legeak eta blokeoak

Badirudi Robotikaren Hiru Legeak uste baino arriskutsuagoak direla. Lehenengoak blokeatuta utz ditzake robotak... eta ondorio oso arriskutsuak izan, robot motaren arabera.
I Robot

Ai, legeak! Ezin haiek gabe bizi, eta haiekin ere, nekez!

Nire legerik gogokoenak, besteak beste perfektuak zirela uste nuelako, Isaac Asimovek sortutako Robotikaren hiru legeak dira. Robot autonomo eta adimentsuen portaera arautu beharko luketen hiru lege nagusiak, Issac Asimov idazle eta pentsalari handiak gogoeta luze baten ostean sortutakoak, bere fikzioetako errobotentzat. Robotenzako oinarriko kode etikoa osatuko lukete hiru legeek eta, errealitatean ere, oso kontuan hartzen dira benetako makinen programazioan. Makilakixki jaun txit agurgarriari lapurtu diot legeon euskarazko bertsioa, baina seguru nago ez dela haserratuko:

  1. Robot batek ez dio gizaki bati kalterik egingo ez eta ekintza faltagatik gizaki bat kaltetua izaten utziko.
  2. Robot batek gizakiek emandako aginduak bete behar ditu, aginduok Lehenengo Legea urratzen ez duten bitartean.
  3. Robot batek bere izatea babestu behar du, Lehenengo edo Bigarren Legeekin gatazka sortzen denean izan ezik.

Ondo, ezta? Lehen begiradan ematen du benetan lasai bizi gintezkeela hiru lege horiei zorrotz jarraitzen dieten robotez inguratuta. Azkarra gero, Asimov jauna!

Kontuz, bada. Bristol-go Robotika Laborategiko aditu batek, Alan Winfield izenekoak, muturreko egoeratara eraman ditu robotak hiru legeen eraginkortasuna neurtzeko, eta emaitzak ez dira pozgarriak izan. Winfieldek probatu duenez, Lehenengo Legeak robotak blokea ditzake. Izan ere, berari horixe gertatu zaio, 33 saiakeratik 14tan, erabakia hartu behar zuen robota ez atzera, ez aurrera geratu zaio, zer egin jakin gabe.

Esperimentua oso sinoplea da: Winfieldek A robot bat programatu du, inguruan dituen beste robot batzuk gizakitzat hartzeko. Ondoren, robotari sinestarazi dio puntu jakin batean amildegi moduko bat dagoela, eta H robotak programatu ditu amildegi horretarantz joateko. robota bakarra denean, ez dago problemarik: amildegira hurbiltzen denean, A robotak bere zereginak utzi eta haren bila joaten da, desbideratu eta ‘salbatzeko’. Arazoa dator H robotak bat baino gehiago direnean, eta batera amiltzeko arriskua dutenean. Kasu horretan, A gaixoak ez daki zer egin, kalkulatzen baitu bat salbatuz gero bestea amildu egingo dela. Ondorioz, zalantzatan hasten da, eta erabaki orduko H biak ‘hilik’ daude, edo, zuzenean, blokeatuta geratzen da, puntu batean geldi, eta ez du ezer egiten.

Bideoa ingelesez dago baina oso argi ikusten da:

Eta beharbada pentsatuko duzue: ados, esperimentu interesgarria, eta zer? Ez da kezkatzeko moduko ezer ezta?

Bada: bai, badugu zertaz kezkatu. Autogintzan, esaterako, gero eta ozenago hasi dira esaten auto robotizatuak direla etorkizuna, euren kabuz gidatzen direnak. Renault, Nissan eta Tesla bezalako marken arabera, kotxe autonomoak 2020rako izan ditzakegu errepidean. Eta auto horiek errepidera irteten direnean, lehenago ala geroago izango dira arrisku egoerak, non autoak erabaki beharko duen noren bizitza salbatu: barruan daraman jendearena, kalean dabilenarena, ala errepideko beste ibilgailuetako jendearena.

Une hori iristen denean, pentsa zer gerta daitekeen autoa erabiki ezinik eta blokeatuta geratuz gero. Panorama latza ezta?

2 iruzkin
  • makilakixki
    2014(e)ko irailak 22 at 08:47

    1) Nire abokatuak zurekin jarriko dira harremanetan.
    2) Blokeoarena hain zuzen ere Asimoven ipuin laburren muina da. Finean Asimovek egin zuena hiru legeok hartu eta hauek urratu eta hauen mugak (blokeoak barne) aztertzea izan zen.
    3) Azkenean Asimovek (edo R. Daneel Olivaw robotak) Zero Legea sortu eta garun positronikoetan ezarri zuen. Honen arabera “Robot batek ezin du gizateria kaltetu edo ekintza bat ez burutzeagatik gizateria kaltetua izatea ahalbidetu”. Kotxeetan lege hau ezartzen denean gureak egin du.

    Reply
  • Joxe
    2014(e)ko irailak 22 at 08:52

    Glups eta glups!

    Nerabetan irakurri nituen Asimoven ipuinak eta ez dut asko gogoratzen. Berriz heldu beharko!

    Reply
  • Bitacoras.com
    2014(e)ko irailak 28 at 21:56

    Información Bitacoras.com

    Valora en Bitacoras.com: Badirudi Robotikaren Hiru Legeak uste baino arriskutsuagoak direla. Lehenengoak blokeatuta utz ditzake robotak… eta ondorio oso arriskutsuak izan, robot motaren arabera.

    Reply
Utzi erantzuna

Zure e-posta helbidea ez da argitaratuko. Beharrezko eremuak * markatuta daude

Gune honek Akismet erabiltzen du zaborra murrizteko. Ikusi nola prozesatzen diren zure erantzunen datuak.