Interesant

Programăm mașini ucigașe? Etica vehiculelor autonome

Programăm mașini ucigașe? Etica vehiculelor autonome

În ultimii ani, tot mai multe funcții autonome au fost încorporate în mașini. Și cu doar câteva luni în urmă, Tesla a lansat următorul videoclip în care se lăuda că a realizat „Auto-Conducerea completă”.

Un articol al Techopedia a raportat că, chiar și mai devreme, mașinile Tesla conțineau „hardware-ul necesar pentru conducerea autonomă”, deși activarea capacității depindea de o actualizare software. Articolul prevedea, de asemenea, diferența dintre modul în care mașinile autonome construite astăzi vor diferi de cele din viitor.

În prezent, mașinile Tesla sunt echipate cu hardware-ul necesar pentru conducerea autonomă, dar sunt necesare actualizări de software pentru a activa pe deplin funcția. Deși va permite conducerea complet autonomă, va permite totuși șoferului uman să preia controlul atunci când situația necesită intervenție.

Cu toate acestea, următoarea generație de vehicule autonome nu ar avea nevoie de volane, pedale sau transmisii. Avantajul unor astfel de autoturisme este posibilitatea de a reduce accidentele și de a asigura transportul necesar pentru persoanele care sunt incapabile să conducă, cum ar fi persoanele în vârstă sau cele cu vedere sau cu dizabilități fizice.

Dar există, de asemenea, un dezavantaj potențial: necesitatea ca agenția umană care stabilește programarea mașinii să prevadă toate scenariile posibile și să dirijeze mașina să facă felul de judecăți pe care oamenii le au atunci când scenariul necesită acțiuni care va provoca inevitabil unele formă de rău.

Deși Tesla ar putea fi cel mai faimos nume pe fața AI pentru vehicule, cu siguranță nu este singurul jucător pe această piață în creștere. Unele nume mult mai venerabile din industrie au intrat, de asemenea, în act.

CONEXE: ISTORIA INTERESANTĂ A MAȘINILOR ELECTRICE

Bernard Marr a scris recent despre investiția Toyota de miliarde de dolari în autoturisme și AI. Compania și-a stabilit obiective pe care dorește să le atingă până în 2020:

„Prin investițiile Toyota în start-up-uri tehnologice, cum ar fi Perceptive Automata, speră să creeze tehnologia care să permită vehiculelor autonome o intuiție mai asemănătoare omului atunci când sunt pe drum mai asemănătoare cu modul în care șoferii umani interacționează cu pietonii.”

Experiență de siguranță la conducerea automată

Desigur, încă nu suntem acolo. Dar întrebarea este dacă acesta este scopul final și dacă este ceva pe care ar trebui să-l urmărim fără a lua în considerare deplina ramificațiile unei mașini complet independente.

Fiecare accident de mașină cu auto-conducere și liste de decese nouă accidente care implică vehicule autonome, dintre care doar patru au cauzat decese. În ciuda susținerilor titlului, totuși, lista este incompletă, deoarece au fost decese după astfel de accidente după publicarea articolului.

Ultima victimă pe care a raportat-o ​​a fost cea care a implicat un Tesla Model X pe 23 martie 2018. Șoferul mașinii a murit când a lovit o barieră de pe autostradă. Tesla a dat vina pe interferența barierei cu sistemul de conducere autonom al vehiculului:

"Motivul pentru care acest accident a fost atât de grav este că atenuatorul de impact, o barieră de siguranță a autostrăzii care este proiectat pentru a reduce impactul într-un separator de benzi din beton, a fost zdrobit într-un accident anterior fără a fi înlocuit", a spus Tesla în declarația sa.

Compania a adăugat: „Nu am văzut niciodată acest nivel de deteriorare a unui model X în niciun alt accident”.

Din păcate, totuși, acesta nu a fost sfârșitul accidentelor fatale pentru mașinile cu conducere automată ale Tesla. Un număr dintre ele au avut loc anul acesta.

Printre incidente a fost unul pe 1 martie 2019. A fost confirmat de către Consiliul Național pentru Siguranță în Transporturi din SUA (NTSB) că software-ul semiautonom de pilot automat a fost angajat pe un Tesla Model 3 atunci când a intrat într-o remorcă care încerca să traverseze o Florida autostrada și șoferul mașinii a fost ucis.

Deși sunt încă relativ rare, în comparație cu accidentele auto cauzate de șoferii umani, faptul că există accidente și decese cauzate de mașinile cu conducere autonomă i-au făcut pe oameni îngrijorați de siguranța și programarea lor. De fapt, anul acesta Quartz a dat naștere unor îndoieli cu privire la pretențiile de siguranță ale Tesla.

La fel ca acel accident Tesla, majoritatea accidentelor auto autonome duc la moartea persoanei care stă pe scaunul șoferului. Cu toate acestea, au existat cazuri de persoane în afara mașinii lovite și ucise de mașini autonome.

Cel mai infam de acest gen poate fi cel care a implicat Uber în moartea lui Elaine Herzberg din martie 2018. Femeia în vârstă de 49 de ani mergea și împingea bicicleta pe bulevardul Mille din Tempe, Arizona, când mașina Uber a lovit-o.

Puteți vedea videoclipul incidentului lansat de poliție aici:

Ca urmare, Uber a adoptat o politică de asigurare a includerii șoferilor umani în mașinile sale. Povestea a fost relatată aici: Uber pune mașinile cu conducere automată înapoi la locul de muncă, dar cu șoferi umani.

Acesta este un mod prin care Uber poate ocoli problema cu care va trebui să ne confruntăm, dacă și când mașinile complet autonome devin normă: cum să le programăm pentru a încorpora instinctul de conservare a vieții umane.

Programarea AI cu preocupare pentru etică

Așa cum am văzut într-un alt articol, Lumea noastră curajoasă: De ce avansul AI ridică probleme etice, cu marea putere a IA vine cu o mare responsabilitate, de a constata că tehnologia nu ajunge să înrăutățească situațiile în numele progresului. Studiul eticii pentru IA a captat atenția oamenilor care se gândesc la ce trebuie făcut înainte de implementarea soluțiilor automatizate.

Unul dintre acești oameni este Paul Thagard, Ph.D., un filozof canadian și om de știință cognitiv a adus câteva dintre problemele pe care trebuie să le confruntăm acum cu privire la programarea eticii în AI în Cum să construim inteligența artificială etică.

El ridică următoarele 3 obstacole:

  1. Teoriile etice sunt extrem de controversate. Unii oameni preferă principiile etice stabilite prin texte religioase precum Biblia sau Coranul. Filosofii argumentează dacă etica ar trebui să se bazeze pe drepturi și îndatoriri, pe cel mai mare bine pentru cel mai mare număr de oameni sau pe acțiunea virtuoasă.
  2. A acționa din punct de vedere etic necesită satisfacerea valorilor morale, dar nu există un acord cu privire la ce valori sunt adecvate sau chiar cu privire la ce valori sunt. Fără o relatare a valorilor adecvate pe care oamenii le folosesc atunci când acționează etic, este imposibil să se alinieze valorile sistemelor de IA cu cele ale oamenilor.
  3. Pentru a construi un sistem de AI care se comportă etic, ideile despre valori și corect și greșit trebuie să fie suficient de precise pentru a putea fi puse în aplicare în algoritmi, dar precizia și algoritmii lipsesc grav în deliberările etice actuale.

Thagard oferă o abordare pentru a depăși acele provocări, spune el, și face referire la cartea sa, Filosofia naturală: de la creierul social la cunoaștere, realitate, moralitate și frumusețe. Cu toate acestea, în cursul articolului, el nu oferă o soluție care să se adreseze în mod specific programării autovehiculelor.

Mașini cu conducere automată și problema căruciorului

În mod ideal, șoferii evită să lovească orice sau oricine. Dar este posibil să te regăsești într-o situație în care este imposibil să eviți o coliziune, iar singura alegere este ce persoană sau persoane să lovească.

Această dilemă etică este ceea ce este cunoscut sub numele de problema căruciorului, care, ca și căruciorul în sine, datează de peste un secol. În general, este prezentat după cum urmează:

Vedeți un cărucior fugar care se îndreaptă către cinci persoane legate (sau altfel incapacitate) care stau pe șine. Stai lângă o pârghie care controlează un comutator. Dacă trageți maneta, căruciorul va fi redirecționat pe o cale laterală, iar cele cinci persoane de pe pista principală vor fi salvate. Cu toate acestea, există o singură persoană întinsă pe pista laterală.

Aveți două opțiuni:

  1. Nu faceți nimic și permiteți căruciorului să-i omoare pe cei cinci oameni de pe pista principală;
  2. Trageți maneta, deturnând căruciorul pe calea laterală, unde va ucide o persoană.

Desigur, nu există o alegere foarte bună aici. Întrebarea este care este cea mai mică dintre cele două opțiuni proaste. A fost doar acest fel de dilemă pe care Green Goblin ia prezentat-o ​​pe Spiderman în filmul din 2002, încercând să-l oblige să aleagă între salvarea unei telecabine pline de copii sau a femeii pe care o iubește:

Fiind un supererou, Spiderman a reușit să-și folosească abilitățile și puterea de a fila pe web pentru a le salva pe amândouă. Dar, uneori, chiar și supereroii trebuie să facă o alegere tragică, așa cum sa întâmplat în filmul din 2008Cavalerul intunecat în care alegerea lui Batman a fost să lase femeia pe care o iubea în clădirea care a explodat.

Deci, chiar și cei care au abilități superioare nu pot salva întotdeauna pe toată lumea și aceeași situație se poate aplica și mașinilor cu AI.

Atunci, întrebarea este: ce cod de etică aplicăm pentru a le programa pentru a face astfel de alegeri?

Ce ar trebui să facă autoturismul?

MIT Technology Review a atras atenția asupra unor cercetători care lucrează la formularea răspunsurilor acum câțiva ani în Cum să ajute mașinile cu conducere autonomă să ia decizii etice. Printre cercetătorii din domeniu se numără Chris Gerdes, profesor la Universitatea Stanford, care a analizat „dilemele etice care pot apărea atunci când autovehiculul vehiculului este implementat în lumea reală”.

El a oferit o alegere mai simplă: aceea de a avea de-a face cu un copil care aleargă pe stradă, ceea ce forțează mașina să lovească ceva, dar îi permite să aleagă între copil și o dubă pe drum. Pentru un om care ar trebui să fie un nebun, protejarea copilului este mai importantă decât protejarea dubei sau a mașinii autonome în sine.

Dar ce ar crede AI? Și ce se întâmplă cu pasagerii din vehicul care ar putea ajunge să sufere unele răni din cauza unei astfel de coliziuni?

Gerdes a observat: „Acestea sunt decizii foarte dure cu care se confruntă în fiecare zi cei care proiectează algoritmi de control pentru vehicule automate”.

Articolul îl citează, de asemenea, pe Adriano Alessandrini, un cercetător care lucrează la vehicule automate la Universitatea de Roma La Sapienza, din Italia, care a servit ca șef pentru partea italiană a proiectului CityMobil2 cu sediul în Europa, pentru a testa vehiculul de tranzit automat. Vedeți videoclipul despre acesta mai jos:

Ea a încapsulat problema căruciorului pentru șoferi și mașini cu conducere automată în această însumare:

„S-ar putea să vedeți ceva în calea voastră și să decideți să schimbați banda și, așa cum vedeți, altceva se află pe acea bandă. Deci, aceasta este o dilemă etică. ”

Un alt expert proeminent în domeniu este Patrick Lin, profesor de filozofie la Cal Poly, cu care Geerdes a lucrat. TED-Ed al lui Lin abordează problemele etice în programarea autoturismelor pentru a lua decizii de viață sau de moarte, este prezentat ca un experiment de gândire în acest videoclip:

Dacă am conduce acea cutie în mașină în modul manual, orice fel de reacție ar fi înțeles doar ca o reacție, nu ca o decizie deliberată ", spune Lin în videoclip. În consecință, ar fi înțeles că este" o panica instinctuală se mișcă fără prevedere sau răutate ".

Posibilitatea reală a deceselor să apară ca rezultat nu al unei defecțiuni, ci ca urmare a faptului că mașinile își urmăresc programarea, este ceea ce face atât de important să ne gândim mai departe despre cum să gestionăm ceea ce Lin descrie ca „un fel de algoritm de direcționare”.

El explică faptul că astfel de programe ar fi „favorizarea sau discriminarea sistematică a unui anumit tip de obiect în care să se prăbușească”.

Drept urmare, cei din „vehiculele țintă vor suferi consecințele negative ale acestui algoritm fără nici o vină”.

El nu oferă o soluție la această problemă, dar este un avertisment că trebuie să ne gândim la modul în care o vom rezolva:

„Vederea acestor viraje morale acum ne va ajuta să manevrăm drumul necunoscut al eticii tehnologice și ne va permite să navigăm încrezător și conștiincios în noul nostru curajos viitor”.

Acest lucru se va dovedi probabil o provocare chiar mai mare de a naviga decât drumurile pe care trebuie să circule vehiculele autonome.


Priveste filmarea: Rapul lui Ștefan cel Mare n. 1438 - m. 1504 (Octombrie 2021).