Nu poți să anticipezi ce fațetă a egoismului tău va fi scoasă și de data asta la iveală de noua configurație particulară de circumstanțe în care vă găsiți acum tu și celălalt. Poți anticipa consecințele propriilor acțiuni doar într-un mod limitat și le poți evalua în baza anumitor principii într-un mod non-algoritmic.
Așa cum ne reamintește Martin Heidegger, tehnologia nu este niciodată inocentă; pentru că înainte de a ne apărea ca un simplu „obiect”, tehnologia este inerentă, ba chiar constitutivă unui mod de percepție.
Contrafactualele sunt afirmații despre ce s-ar fi întâmplat dacă lucrurile s-ar fi desfășurat diferit. Într-un context de inteligență artificială, asta implică luarea în considerare a modului în care rezultatul unui sistem de inteligență artificială ar fi putut fi diferit dacă ar fi primit intrări diferite.
Sfetnicul acesta este misterios – nu știm prea bine cine sunt cei care l-au proiectat; cum, de ce și pentru ce l-au proiectat; ce vor de la el și ce vor de la lumea în care îl aruncă cu atâta ușurință. Mai mult decât atât, însă, Sfetnicul este supranatural – pentru că aparent, spre deosebire de cuțit, pușcă, pompa de bicicletă sau mașina de făcut tăiței, de la un anumit punct încolo nimeni, nici măcar inventatorii (sau să le spunem creatorii?) săi, nu mai înțelege cum funcționează această existență spectrală.
Un creator de tehnologie poate să mizeze sau nu pe intimitatea utilizatorilor, să le ofere sau nu siguranță în mediile online, să favorizeze sau nu conflictul pe rețelele de socializare, să caute sau nu obținerea cât mai multor date personale – toate acestea sunt reflectate în modul în care acea tehnologie poate fi utilizată încă „din fabrică”. Spațiul de manevră și de alegere pe care ni-l oferă o anumită tehnologie este, deci, într-o bună măsură predefinit, parametrii săi de funcționare fiind constituiți din alegeri eminamente existențiale care devin ireversibile pentru utilizatori din cauza complexității lor tehnice, marja de personalizare a unui mediu tehnologic fiind și ea un dat.
Tehnologia nu ne scutește de decizia morală; este un instrument neutru care servește preferințelor și judecăților noastre, iar acestea din urmă aparțin domeniului reflecției morale.
După apariția mass media în secolul trecut, cei care au reflectat la problemele ridicate de – pe atunci recentele – tehnologii media s-au întrebat dacă, asemeni altor tehnologii inventate de om de-a lungul timpului, și acestea mai au statutul de instrument sau dacă, din contră, prin modul în care funcționează și prin efectele exercitate asupra omului, au căpătat statutul de mediu.
Aș dori pe această cale să semnalez apariția a unei cărți, semnată de profesorul și teologul Adrian Lemeni, intitulată „Tehnicizarea inumană a vieții”, a cărei prezentare a avut loc săptămâna trecută la Facultatea de Teologie Ortodoxă din Timișoara. Analiza profesorului Lemeni poate părea radicală pentru unii și, în orice caz, descurajantă pentru cei mai mulți dintre noi, căci, sugerează profesorul Lemeni, în loc să ne ajute, tehnologia pare mai degrabă să devină un inamic de temut și chiar un pericol pentru ceea ce presupune umanitatea, așa cum o cunoașteam până acum.
Nu sunt determinist tehnologic, dar nu am cum să nu remarc, pe urmele paleoantropologilor, că trecerea „de la mână la creier” s-a făcut în concordanță cu noile tehnologii ale acelor vremuri. Cu cât am descoperit sau inventat tehnologii mai bune și am dobândit tehnici noi, cu atât specia a evoluat spre ființele cerebrale de azi, totul culminând cu limbajul însuși, apoi scrierea sa. Astăzi, tot limbajul este cel care se întrupează, doar că nu e limbajul natural, ci cel al datelor, algoritmilor și codurilor, și nici omul nu e mai e cel care-l poartă, ci mașinile. Sfatul meu nu e un sfat, că nu am căderea, ci o invitație de a reflecta sistematic la tot ceea ce e atât de la îndemână că nu-l mai vedem, inclusiv telefonul sau internetul.