În decembrie 2014, trei tineri londonezi au zburat la Los Angeles, ca să parafeze un business. Demis Hassabis, Shane Legg și Mustafa Suleyman erau fondatorii DeepMind Technologies, o companie mică din domeniul inteligenței artificiale, situată în estul Londrei. Erau pe cale să încheie o afacere cu Larry Page de la Google. Nici unul dintre pasagerii acelui zbor nu știa acest lucru, dar cei trei bărbați care stăteau pe rândul 43 se pregăteau să semneze contractul cu cel mai mare impact din istoria umanității.
DeepMind intrase pe radarul celor de la Google la trei ani după ce își începuse activitatea. Spre deosebire de orice alt startup (de tipul lor) de pe planetă, cei de la DeepMind nu s-au preocupat de „interfața” om/ mașină - funcționalitatea mașinilor și a creierelor și combinația dintre cele două. Nu! DeepMind era despre ceva fundamental, despre rădăcina inteligenței. Nu a celei umane sau a celei artificiale, ci a oricărei forme de inteligență. DeepMind se întorsese la principiile de bază: atât oamenii, cât și roboții sunt, și unii, și alții, doar niște carapace exterioare care acționează și gândesc datorită inteligenței decodificabile. Dacă decodifici acea inteligență, înțelegi cum funcționează totul și stăpânești lumea. La Googleplex, în orașul Mountain View din California, cei trei tineri londonezi și Larry Page au bătut palma. Google a plătit 650 de milioane de dolari pentru o companie care abia împlinise trei ani. „Nu a fost doar cea mai importantă afacere din istoria Google. A fost cea mai importantă afacere a omenirii. Creând cel mai popular motor de căutare din lume, Google a construit cea mai puternică mașină de pe Pământ. Dar prin achiziționarea DeepMind, Google are potențialul de a poseda inteligența. Va putea atunci să introducă creierul în mașina Google”, aprecia cercetătorul și jurnalistul BBC Jacques Peretti în studiul „Înțelegerile care ne-au schimbat lumea” (Litera, 2019). Ce înseamnă însă un creier în mașina Google?
Combinația care ne-ar putea aduce extincția
Explicațiile au venit tot de la Jacques Peretti: „Afacerea Google-DeepMind a deschis calea creării unui nou organism din ceea ce DeepMind numește «țesut cognitiv de mașină». Nici viu, nici mort, ci conștient. O specie cu totul nouă”. Interesant, dar ce fel de specie mai e și aceasta? În cadrul unui interviu acordat în 2011, Shane Legg, fondatorul DeepMind, a oferit detalii tulburătoare: „Cred că, în cele din urmă - a spus el -, extincția umană probabil va avea loc și e de presupus că tehnologia va juca un rol în acest proces”. Chestionat apoi în legătură cu o eventuală suferință prelungită a oamenilor, Shane Legg a fost ferm: „Dacă prin suferință înțelegi suferință prelungită, atunci cred că acest lucru este destul de puțin probabil. Dacă o mașină superinteligentă ar decide să scape de noi, cred că ar face-o într-un mod destul de eficient. Nu cred că vom proiecta în mod deliberat mașini superinteligente care să maximizeze suferința umană”. De atunci înainte, tranzacția DeepMind, pe care Legg și partenerii săi au încheiat-o cu Google, a fost interpretată drept afacerea care ne va aduce extincția. Elon Musk, un om care nu se pierde ușor cu firea în fața unui viitor distopic, a fost șocat: „Înțelegerea dintre Google și DeepMind este mai periculoasă decât bombele nucleare“. La rândul lui, genialul Stephen Hawking s-a exprimat și mai dur: „Cred că acest deal (n.r. înțelegere) va duce la sfârșitul omenirii așa cum o cunoaștem astăzi”.
Reacție anemică a rasei umane
„Declarații dure, doar că Legg avea pur și simplu o atitudine «post-umană» față de felul în care se conturau evenimentele viitoare. Odată ce inteligența este decodificată și creierul este în mașină, de ce au oamenii un primat moral față de orice altă formă de existență, vie sau sub formă de mașină? Pur și simplu era logic că, odată ce conectezi țesutul congnitiv la mașină, se creează un organism care poate să decidă dacă oamenii sunt sau nu necesari”, sublinia Jacques Peretti. Oricum, pentru o afacere care avea să ne aducă extincția, tranzacția Google-DeepMind a primit remarcabil de puține reacții din partea rasei umane. Stephen Hawking a arătat că se impunea constituirea unui comitet de etică independent, care să examineze studiul celor de la DeepMind, în condițiile în care aceasta ne adâncea, tot mai mult, într-un „minunat” viitor. Dar nici până în ziua de astăzi nu s-a întâmplat așa ceva. „Incredibil este faptul că, indiferent de cât de terifiantă pare afacerea DeepMind, ea nu se oprește aici - mai menționa Peretti. A fost deschisă o Cutie a Pandorei pe care nici Google, nici DeepMind nu pot să o închidă, nici să controleze ceea ce urmează să se întâmple”. Adică?
Lansarea aplicației Streams
În 2016, DeepMind a reapărut brusc în Londra. Revista New Scientist a scos la iveală care era următoarea mutare pe care aveau de gând să o facă cei de la Google. „Negociau o înțelegere secretă cu Royal Free NHS Trust care administrează Barnet, Chase Farm și Royal Free Hospitals și care deține datele confidențiale a 1,6 milioane de pacienți”, releva Peretti. Înțelegerea avea să le permită celor de la DeepMind să acceseze milioane de informații, deosebit de sensibile, fără consimțământul pacienților. Totul, de la date referitoare la tratamente medicale pentru afecțiuni acute, accidente și urgențe, până la patologie, radiologie, HIV și statistici referitoare la avorturi. După doar un an, în 2017, au arătat care erau, de fapt, intențiile lor. Google a anunțat lansarea Streams, o aplicație care declanșează alerte mobile când semnele vitale ale unui pacient sau analiza sângelui sunt identificate ca anormale. „Zece mii de oameni mor anual din cauza insuficienței renale acute”, a anunțat Mustafa Suleyman de la DeepMind. „Aceste decese sunt întru totul evitabile. Putem să declanșăm o alertă care să le permită asistentelor sau doctorilor să ia măsuri preventive, cum ar fi injectarea intravenoasă de antibiotice când rinichii sunt deshidratați, pentru a preîntâmpina agravarea situației în urma căreia pacientul ajunge la terapie intensivă”.
Un pact secret impardonabil
„Streams pare să fie un exemplu remarcabil de tehnologie, dar este, de asemenea, și un mod de a forța lucrurile - opina Jacques Peretti. Va fi folosit inițial pentru a identifica oamenii care sunt expuși riscului de a avea probleme cu rinichii, dar se preconizează că va fi extins de-a lungul următorilor cinci ani. Iar indiciul ce ne ajută să înțelegem care este următorul lucru pe care îl va face ne este oferit de ceea ce pretinde DeepMind cu privire la acest serviciu. Suleyman vede în Streams o aplicație ce va deveni esențială pentru administrarea cotidiană a spitalului. Nu doar că va detecta stări acute precum septicemia, ci - iar aici este cheia - va coordona inclusiv tratarea pacienților”. Cu alte cuvinte, odată tehnologia implantată în inima spitalului, apare posibilitatea ca algoritmii, nu doctorii, să decidă ce fel de îngrijire urmează să primească pacienții. Una peste alta, Google ar deține, prin Streams, cheile de acces ale datelor noastre confidențiale. Criticii afacerii au văzut-o ca fiind profund periculoasă. Julia Powels și Hal Hodson, de la Universitatea Cambridge, au calificat înțelegerea secretă cu sistemul național de sănătate britanic drept „impardonabilă“, iar afirmațiile celor de la DeepMind, cu privire la Streams, drept „ciudate”. Google a contraatacat rapid. Un articol din revista de tehnologie Wired a afirmat că, datorită Streams, asistenții din cadrul serviciului de sănătate economiseau două ore în fiecare zi. Apoi a intervenit și Suleyman, anunțând că DeepMind dezvolta un sistem de monitorizare a datelor pacientului în stilul bitcoin, folosind tehnologie blockchain pentru a le proteja.
Preluarea silențioasă a controlului
Google începea lupta pentru câștigarea inimii și minții unei societăți sceptice, precum și pentru câștigarea inimilor și minților profesioniștilor din domeniul sănătății. Aveți încredere în noi, spuneau ei. Și acesta este trocul. 1,6 milioane de pacienți (zece milioane, dacă programul era extins la nivel național) ale căror date sunt puse la dispoziția Google, pentru a fi analizate, și ce obții în schimb? Tehnologia de ultimă oră, de care ai nevoie disperată, și ușurarea presiunii exercitate asupra puținului timp și asupra resurselor insuficiente ale personalului din prima linie. „Tehnologia face posibilă preluarea silențioasă a controlului asupra sistemului de sănătate. Prin DeepMind, Google poate să o ia înaintea celorlalți patru (Microsoft, Facebook, Amazon și Apple) mari rivali ai săi în competiția pentru preluarea sistemului de sănătate și, ceea ce este și mai operativ, să pună mâna pe mina de aur a secolului XXI: industria globală a sănătății”. Asociindu-se cu Organizația Mondială a Sănătății și ONG-urile din prima linie pentru a construi sisteme de sănătate peste tot în țările în curs de dezvoltare, giganții tech sunt noii cavaleri în armură strălucitoare, doar că în prezent conduc jeepuri albe decapotabile. Pe vremuri, triajul în cazul dezastrelor medicale îl făceau Crucea Roșie și Médecins Sans Frontières, dar odată cu criza de finanțare a sistemelor de sănătate zona de triaj s-a lărgit exponențial, de unde și piața potențială ce poate fi capturată când și sistemele de sănătate din lumea dezvoltată se vor prăbuși.
„DeepMind” a înțeles ceva fundamental: atât oamenii, cât și roboții sunt, și unii, și alții, doar niște carapace care acționează și gândesc datorită inteligenței decodificabile. Dacă decodifici acea inteligență, înțelegi cum funcționează totul și stăpânești lumea
În 2014, Google a plătit 650 de milioane de dolari pentru achiziționarea companiei DeepMind Technologies, firmă londoneză ce activa în domeniul inteligenței artificiale
În Marea Britanie, datele personale a nu mai puțin de 1,6 milioane de pacienți au fost puse de guvern la dispoziția Google prin intermediul aplicației Streams