Categorii
Seo

Monstrul inteligent pe care ar trebui sa-l lasi sa te manance

Monstrul inteligent pe care ar trebui sa-l lasi sa te manance

(Credit de imagine:

Getty Images

)

Imagineaza-ti un monstru cu un set de cuvinte atat de puternic incat trebuie sa-l lasi sa te manance. S-ar putea sa para fantezist, dar am putea fi pe o traiectorie a inventarii uneia chiar acum, scrie Richard Fisher.

O

Intr-o zi, un filozof mergea pe strada, cand un monstru a sarit afara.

In ciuda coltilor terifianti, era de fapt mai politicos si mai articulat decat se astepta.

– Vreau sa te mananc, te rog, spuse monstrul.

„Imi pare rau, dar as prefera sa nu fiu pranzul tau”, a raspuns filosoful si s-a mutat sa mearga in continuare.

– Asteapta, spuse monstrul, ridicand un deget cu gheare. „Si daca as putea sa va prezint un argument solid?”

Inarmat cu un mandat si o discutie TED, profesorul de filosofie s-a indoit foarte mult ca orice monstru ar putea fi atat de convingator, dar a fost totusi intrigat.

„Continuati”, a spus filosoful.

Cateva minute mai tarziu, monstrul s-a indepartat cu un profesor mort in burta.

Aceasta bestie teoretica, numita „monstru utilitar”, este un experiment de gandire filosofica, propus initial in anii 1970. Pentru a-i respinge argumentul si a-l opri sa te manance, iti cere sa renunti la un principiu larg acceptat si intuitiv despre cum sa cantaresti bine si rau.

De mult considerat ca fiind putin probabil, daca nu chiar imposibil, monstrul de utilitate este de obicei considerat chestia imaginatiei fanteziste. Cu toate acestea, potrivit unor cercetatori, am putea fi pe o traiectorie spre construirea uneia – dar va fi din siliciu, mai degraba decat din carne si gheare.

Daca au dreptate, am putea avea in curand cateva alegeri dure de facut daca vrem sa evitam sa fim mancati.

Array

Ati putea dori, de asemenea:

  • Soarta sumbru care ar putea fi mai rea decat disparitia
  • Traim la „balama istoriei”?
  • Suntem pe drumul spre prabusirea civilizatiei?

Pentru a intelege argumentul mortal al monstrului, trebuie mai intai sa intelegeti teoria etica pe care a fost propusa sa o conteste: o scoala de gandire proeminenta in filosofia morala numita utilitarism.

Cuvantul utilitarism este destul de uscat – unii au subliniat ca pare sa speli rufele – dar este de fapt un mod profund de a gandi despre fericire si cautarea umana de a acorda prioritate unei vieti bune pentru cea mai mare cantitate de oameni. Schitat aproximativ, un utilitar este ghidat de principiul conform caruia bunastarea poate fi ridicata si ca ar trebui sa ne propunem sa o maximizam in general in lume. Pentru multi dintre sustinatorii sai, utilitarismul ofera o regula simpla pentru a decide cum sa traiesti viata, sa donezi pentru caritate si sa alegi cariere.

Dar, desi principiul maximizarii bunastarii si fericirii poate parea intuitiv corect, exista cateva cazuri extreme in care se simte mai putin.

O obiectie la cea mai de baza incadrare a utilitarismului este ca ar parea sa permita acte pe care aproape toata lumea ar fi de acord ca sunt gresite, cum ar fi uciderea sau sustinerea suferintei deliberate. De exemplu, in nuvela scriitorului de science-fiction Ursula Le Guin The Ones Who Walk Away from Omelas, cititorul este introdus intr-un oras infloritor, vesel, a carui existenta prospera depinde in totalitate de mizeria extrema a unui singur copil care traieste intr-o temnita. Daca cineva ar adauga fericirea totala a orasului, atunci acesta ar depasi masiv suferinta copilului. Dar, asa cum scrie Le Guin, unii rezidenti nu pot impiedica ideea copilului sacrificat, indiferent cat de multa fericire genereaza si astfel „se indeparteaza” de oras.

Exista diverse alte provocari ale utilitarismului, dar cea care conteaza pentru noi apartine monstrului nostru flamand.

In orasul fictiv Omelas exista o inflorire larg raspandita – dar depinde de suferinta unui copil (Credit: Getty Images)

Inapoi pe strada, cand filosoful utilitar cere sa i se prezinte un caz de mancare, monstrul explica faptul ca are un mod special de a experimenta bunastarea.

„Ideea ta de fericire este doar o simpla fractiune din ceea ce sunt capabil sa simt”, spune ea. „Sunt la fel de diferit de tine, de om, ca si de furnica. Daca te mananc, imi va oferi mai multa bunastare si satisfactie decat toti oamenii care au trait vreodata ”.

Filosoful ezita in timp ce incearca sa se gandeasca la un contraargument. „Ei bine, Doamne, asta este cu siguranta un valabil …” Dar timpul a trecut, profesorul este pranzul.

Desigur, exista raspunsuri la monstru. Un filozof care credea ca exista anumite coduri morale care nu pot fi incalcate ar avea mult mai putine probleme. Sa ucizi oameni pentru mancare este gresit, s-ar putea sa spuna ea, asa ca nu-mi pasa cat de fericit te va face sa ma mananci.

Un raspuns utilitar la scenariul monstru este ca nu ar intalni niciodata o astfel de creatura in primul rand – este atat de nerealist incat poate fi pus deoparte atunci cand iau decizii morale in lumea reala. Este cu siguranta adevarat ca este dificil sa ne imaginam o singura fiinta care ar putea experimenta mai multa bunastare decat toti oamenii in viata si morti – este cu mult dincolo de imaginatia creierului nostru de mamifer.

Dar acum exista o noua intorsatura in experimentul de gandire. Nick Bostrom si Carl Shulman de la Universitatea din Oxford au propus o modalitate prin care un monstru utilitar ar putea, in principiu, sa intre in existenta. S-ar putea sa fie in viitorul indepartat, dar in laboratoare si companii din intreaga lume chiar acum, ei cred ca este posibil sa facem deja pasi in aceasta directie.

Bostrom este unul dintre principalii sustinatori academici ai ideii ca ar trebui sa ne pregatim pentru sosirea brusca a masinilor superinteligente, mult mai inteligente decat cele mai bune minti umane si capabile sa ridice noi dileme etice pentru omenire. Intr-o lucrare recenta, postata pe site-ul sau web, el si Shulman propun scenarii in care una dintre aceste minti digitale ar putea deveni un „super-beneficiar” al bunastarii (un termen pe care il prefera „monstru” deoarece cred ca astfel de minti ar trebui descrise cu limbaj non-peiorativ).

Mintile artificiale pot avea experiente, nevoi si dorinte foarte diferite fata de ale noastre (Credit: Noel Celis / Getty Images)

In acest moment, merita sa recunoastem ca o minte digitala inteligenta ar putea suna la fel de nerealista ca un monstru de utilitate teoretica. Daca nu aveti o „gena sci-fi”, toate acestea ar putea parea lucruri ametitoare. Desi nu este neaparat o posibilitate pe termen scurt, multi cercetatori seriosi cred ca o IA care se potriveste rapid si depaseste propria noastra inteligenta este departe de a fi imposibila. Si cand se va intampla, se va intampla rapid, creand noi dileme etice si existentiale, despre care spun ca sunt prudenti sa incepem sa ne gandim acum.

„Mintea masinii pe care o construim devine din ce in ce mai complexa”, spune Bostrom. „Si putem vedea clar o traiectorie acolo. Chiar si punand deoparte probleme de superinteligenta sau la nivel uman, cel putin lucrurile care incep sa rivalizeze cu animale de diferite grade de sofisticare in ceea ce priveste repertoriile lor cognitive sunt deja aici sau la orizontul imediat. ”

Deci, daca acceptam ca este probabil ca mintile digitale sofisticate sa apara la un moment dat in viitor, rezulta ca acestea ar putea avea calitati, nevoi si experiente mentale total diferite de ale noastre. Si de aici au inceput Bostrom si Shulman, in fata unei table albe din Oxford, ca parte a unui proiect mai amplu de schitare a tuturor posibilitatilor in care mintile digitale ar putea avea caracteristici psihologice si fiziologice care reflecta sau le depasesc pe ale noastre – si unele pe care le putem ” nici macar nu-ti imaginezi.

Un lucru pe care l-au identificat in timpul acestui exercitiu a fost ca mintile digitale ar putea avea potentialul de a utiliza resursele materiale mult mai eficient decat oamenii pentru a atinge fericirea. Cu alte cuvinte, realizarea bunastarii ar putea fi mai usoara si mai putin costisitoare pentru ei din punct de vedere energetic, de aceea ar putea experimenta mai mult din aceasta. Perspectiva timpului unei minti digitale ar putea fi, de asemenea, diferita, gandind mult mai repede decat creierul nostru, ceea ce ar putea insemna ca este capabila sa experimenteze subiectiv mult mai multa fericire intr-un anumit an decat am putut vreodata. De asemenea, nu au nevoie de somn, asa ca pentru ei ar putea fi fericire si toata noaptea. De asemenea, oamenii nu se pot copia singuri, in timp ce in siliciu exista posibilitatea ciudata a mai multor versiuni ale unei singure fiinte digitale care simte o cantitate imensa de bunastare in total.

Nici acestea nu sunt singurele rute catre statutul de super-beneficiar. Exista, de asemenea, lipsa de adaptari evolutive din viata sintetica, care limiteaza bucuria pentru tine si pentru mine. „Exista motive sa credem ca mintile proiectate s-ar putea bucura de durate si intensitate a placerii mult mai mari”, scriu Bostrom si Shulman. In schimb, la oameni „placerile culinare sunt reglementate de foame, cele sexuale de libidou”, iar placerea noastra poate fi in cele din urma diminuata de plictiseala sau normalizare. Mintile digitale nu ar avea astfel de bariere.

Un punct esential este ca chiar si cel mai multumit si mai vesel om care a trait vreodata s-ar putea sa nu stea la culmea bunastarii posibile – viata sintetica ar putea sa o depaseasca. Si daca da, asta ar putea crea cateva dileme pentru noi atunci cand apar aceste masini.

Ar putea fi chiar un argument pentru evitarea construirii lor in primul rand. Daca cineva este de acord cu opinia ca ar trebui sa li se acorde drepturi (ceea ce stiu, iti cere din nou sa iti activezi gena SF), s-ar putea ca acestia sa fie singurii beneficiari de resurse si energie atunci cand acestea erau rare, deoarece calitatea si cantitatea bunastarii lor ar depasi atat de mult pe ale noastre. Daca moartea noastra ar insemna succesul lor, atunci prin logica utilitara de baza ca ar trebui sa maximizam bunastarea in lume, ei ar avea un argument pentru a ne manca metaforic.

Desigur, doar cele mai neharitabile interpretari ale utilitarismului spun ca suntem obligati sa ne sacrificam in mod daunator pentru binele fericirii altora. Asta ne-ar face o asa-numita „pompa a fericirii”, un alt experiment de gandire filosofic surprins de personajul Doug Forcett in emisiunea TV The Good Place. Forcett isi petrece toata viata facand tot ce poate pentru a-i face pe plac celorlalti, cum ar fi lasarea unui adolescent sa-l hartuiasca fara incetare, facandu-se pe deplin mizerabil in acest proces.

Fericirea noastra este constransa de trecutul nostru evolutiv – nu neaparat pentru mintea digitala (Credit: Alamy)

Totusi, s-ar putea complica din punct de vedere etic, pentru a spune cel putin. Ne-ar putea cere sa spunem ca oamenii au privilegii mai mari decat orice minte sintetica, indiferent cat de constient, inteligent si avansat este. Bostrom si Shulman iau o linie destul de dura catre aceasta atitudine, stabilind paralele cu suprematia rasiala istorica sau cu cruzimea animalelor, ambele fiind acum in general detestate ca fiind gresite din punct de vedere moral. Personal, acele paralele imi intind propria credulitate dincolo de limitele sale, dar poate ca este doar creierul meu de mamifer.

Cand am vorbit despre aceste idei cu filosoful Thomas Metzinger de la Universitatea Johannes Gutenberg din Mainz din Germania, el a ridicat un punct legat de care nu ma gandisem. Ce se intampla daca am crea accidental minti digitale constiente care sunt incredibil de eficiente in a experimenta suferinta ? Ce se intampla daca am crea o explozie de bunastare negativa in randul fiintelor sintetice, a unei profunzimi nemaivazute pana acum in istorie?

„Poate fi foarte diferit de suferinta biologica, deoarece au senzori, receptori, reprezentare corporala diferita, formate de date interne diferite”, explica Metzinger. Dar daca accepti ca constiinta ar putea sa nu fie unica pentru celulele biologice, atunci ar putea aparea si experiente subiective asemanatoare durerii, oricat de straine ar fi pentru noi. „Daca avem o persoana non-umana care este capabila de rationament simbolic la nivel inalt si are capacitati lingvistice si isi poate declara propria demnitate, ar fi ceva ce probabil nu am mai putea ignora”.

Metzinger recunoaste ca astfel de probleme nu sunt tocmai importante pe lista de prioritati a factorilor de decizie politica si a autoritatilor de reglementare chiar acum (si ar trebui sa stie, deoarece a consiliat recent Comisia Europeana). Insa bunastarea subiectiva a mintilor inteligente si digitale nu ar trebui neglijata, sustine el. „Un numar mare de oameni care vor fi de fapt responsabili din punct de vedere etic pentru crearea constiintei masinii ar putea fi deja in viata astazi. Creeaza o responsabilitate istorica ”, spune el.

Deci, pe masura ce ne apropiem de posibilitatea unor minti sintetice inteligente, va trebui sa analizam modul in care le proiectam, ce facem si ce nu le permitem sa faca si, in mod crucial, cum sa ne asiguram ca nevoile lor sunt aliniate cu ale noastre . Va fi moral permis sa proiectam aceste minti pentru a ne servi sau pentru a „simti” anumite moduri? Cat din resursele noastre ar trebui sa le impartasim? Si ar trebui sa li se acorde acelasi statut moral nediscriminatoriu ca fiintele umane?

Bostrom imi spune ca obiectivul mai larg este acela de a identifica „caile care vor permite mintilor digitale si mintilor biologice sa coexiste, intr-un mod reciproc benefic, in care toate aceste forme diferite sa poata inflori si prospera”. Sosirea mintilor digitale nu trebuie sa fie catastrofala, definita de conflict, sustine el. „Daca vom introduce acesti noi cetateni in lume, care ar fi cadrul etic si politic in cadrul caruia s-ar putea avea o coexistenta fericita?”

La urma urmei, daca ne gandim cu adevarat la distanta in viitor, in cele din urma ar putea aparea o minte digitala care este mai luminata din punct de vedere etic decat suntem noi. „O miscare cu adevarat decisiva ar putea fi daca o masina incepe sa isi impuna obligatii morale, fara ca noi sa o fortam”, spune Metzinger. Asta ar putea sa o inceapa pe o cale spre o intelegere diferita si mai profunda a ceea ce inseamna sa fii bun. Si daca da, ipoteticul nostru monstru s-ar putea sa nu aleaga sa manance filosofi morali, dar din punct de vedere intelectual i-ar putea lua cu usurinta la pranz.

Alaturati-va unui milion de fani Viitor placandu-ne pe Facebook sau urmati-ne pe Twitter sau Instagram .

Daca ti-a placut aceasta poveste, inscrie-te la buletinul informativ saptamanal bbc.com , numit „Lista esentiala”. O selectie selectata de povesti de la BBC Future , Culture , Worklife si Travel , livrate in casuta de e-mail in fiecare vineri.