„The Coming Wave” Mustafy Suleymana to ważny głos w toczącej się debacie na temat przemian cywilizacyjnych pod wpływem sztucznej inteligencji i innych przełomowych technologii oraz niezbędnych regulacji w tym zakresie.
Głos ten jest o tyle znaczący, że pochodzi od jednego z wiodących ekspertów w tym zakresie, a mianowicie współzałożyciela spółki DeepMind (nabytej później przez Google), która ma na swoim koncie takie osiągnięcia jak stworzenie AlphaGo, czyli programu, który w 2016 roku zrobił furorę pokonując mistrza świata w Go, czy AlphaFold (2020 r.), przewidującego strukturę prawie wszystkich skatalogowanych i znanych nauce białek na świecie. Dziś, po odejściu z DeepMind/Google Suleyman tworzy kolejną spółkę (InflectionAI) budującą personalnego asystenta opartego o wielki model językowy, a jednocześnie próbuje się włączyć do ogólnej dyskusji na temat potencjalnych zagrożeń wynikających ze sztucznej inteligencji oraz sposobów im zapobiegania.
Podstawową zaletą tej książki jest to, że wyraża ona głos inżyniera/przedsiębiorcy, który głęboko rozumie i dostrzega szczegóły rozwoju sztucznej inteligencji. W rezultacie zajmuje się realnymi ryzykami, a nie problemami należącymi jeszcze do domeny science-fiction. Sulejman podkreśla, że nasze obawy i wysiłki regulacyjne nie powinny koncentrować się wokół Ogólnej Sztucznej Inteligencji (AGI), która jest kwestią dalszej przyszłości, lecz na bardziej bezpośrednich zagrożeniach wynikających z coraz bardziej rozwiniętych „wąskich” systemów sztucznej inteligencji. Modele AI wchodzące w najbliższym czasie na rynek Sulejman określa mianem Artificial Capable Intelligence (ACI) i będą one coraz lepiej rozwiązywały coraz bardziej złożone zadania definiowane przez ogólne cele ich użytkowników. Suleyman przedstawia przykład modelu AI, którego ogólnym celem będzie zbudowanie w oparciu o dane rynkowe rentownego przedsięwzięcia zajmującego się handlem na platformie e-commerce. Taki model ACI nie tylko opracuje szczegóły biznes-plan, ale także go w całości zrealizuje: od wygenerowania pomysłu na produkt, poprzez zaaranżowanie zawarcia umów z producentami i dostawcami, opracowanie materiałów marketingowych i przeprowadzenie kampanii reklamowej w internecie, aż po prowadzenie sprzedaży. Suleyman uważa, że osiągnięcie tego poziomu sprawności przez sztuczną inteligencję może być możliwe w ciągu kilku lat i będzie to miało znaczący wpływ na globalną gospodarkę, w ramach której AI stanie się centralnym elementem infrastruktury obrotu gospodarczego.
Analizy założyciela DeepMind słusznie nie koncentrują się wyłącznie na sztucznej inteligencji. Wskazuje on na ogromny potencjał biologii syntetycznej w tworzeniu sztucznych organizmów na potrzeby człowieka (np. wytwarzających biodegradowalne substytuty dla stosowanych dziś ropopochodnych plastików), komputerów kwantowych w ramach wynajdywania nowych technologii materiałowych (np. na potrzeby nowoczesnych baterii) czy produkcji bajecznie taniej i czystej energii elektrycznej dzięki opanowaniu technologii fuzji jądrowej (której paliwem są powszechnie dostępne izotopy wodoru, a podstawowym produktem ubocznym niegroźny hel). Wszystkie te technologie składają się na opisywaną przez Sulejmana „nadchodzącą falę” technologicznej rewolucji. Przy czym rozważania te zostały niezwykle umiejętnie osadzone w szerszym kontekście ogólnej historii rozwoju technologicznego ludzkości.
Mustafa Sulejman trafnie wskazuje, że całkowite powstrzymanie nadchodzącej fali nowych technologii nie jest jakąkolwiek opcją. Przede wszystkim, bez nowoczesnych technologii nie poradzimy sobie z najpoważniejszymi współczesnymi wyzwaniami ludzkości: ani z kryzysem klimatycznym, ani ze starzeniem się społeczeństw Zachodu i potencjalnym ryzykiem katastrofy systemów ochrony zdrowia oraz ubezpieczeń społecznych. Po drugie, rozproszony charakter wielu tych technologii oraz międzynarodowy, technologiczny „wyścig zbrojeń” – zwłaszcza między USA i Chinami – wyklucza możliwość całkowitego ich zablokowania. Jedynymi rozwiązaniem jest więc kontrolowanie ich rozwoju poprzez regulacje i współpracę międzynarodową celem eliminacji najpoważniejszych zagrożeń.
Pośród najczęściej wymienianych ryzyk wynikających z rozprzestrzeniania się technologii w najbliższym czasie Sulejman wymienia dezinformację oraz bioterroryzm. Rozprzestrzenianie fałszywych informacji w sieci za pomocą opartych na AI programów stało się banalnie proste. Bez odpowiednich regulacji – np. całkowicie eliminujących takie programy (boty) w mediach społecznościowych – możliwa jest daleko idąca destabilizacja procesów demokratycznych wolnych społeczeństw. Dzięki dostępnej w internecie wiedzy oraz taniejącym urządzeniom do syntezy DNA możliwość stworzenia groźnego wirusa przez „garażowe” laboratorium powoli staje się rzeczywistością. Autor postuluje państwową kontrolę nad wykorzystywaniem infrastruktury pozwalającej na syntetyzowanie sztucznych organizmów oraz rozbudowę systemów bezpieczeństwa biologicznego – np. monitorujących powietrze i ścieki w miejscach użyteczności publicznej (dworce, lotniska, środki transportu publicznego itp.). Kolejnym wyzwaniem będzie wprowadzenie swoistych „zabezpieczeń” w odniesieniu do dostępnych w internecie programów konwersacyjnych (typu ChatGPT) by te nie dostarczały użytkownikom treści stanowiących ewidentne zagrożenie dla społeczeństwa – typu przepisy na produkcję materiałów wybuchowych czy syntetyzowanie niebezpiecznych wirusów
Sulejman wskazuje, że kluczową rolę w regulowaniu nowych technologii mieć będzie zdrowe i sprawne państwo. Problem w tym, że nowe technologie mogą stwarzać zagrożenie także dla demokratycznych instytucji państwowych. Z jednej strony stwarzają one pokusę tworzenia zcentralizowanego autorytaryzmu, gdy rządząca elita postanowi wykorzystać sztuczną inteligencję do manipulowania społeczeństwem i totalnego nadzoru na jednostką (model chiński). Z drugiej natomiast strony radykalnie zdecentralizowany charakter wielu nowoczesnych technologii (internet, energia odnawialna, bioreaktory, druk 3D, kryptowaluty) stwarzają ryzyko powstania wielu wyizolowanych mikrospołeczności i rozpadu szerszych więzów społecznych w ramach wspólnoty państwowej.
To co proponuje Sulejman to trudna i wąska „ścieżka” pomiędzy puszczeniem nadchodzącej fali nowych technologii „na żywioł”, poza jakąkolwiek kontrolą, a próbą ich całkowitego powstrzymania, która jest z góry skazana na porażkę. Jest to także wąska droga między opartym na AI totalitaryzmem państwowym, a słabym i rozpadającym się państwem, które nie ma wsparcia w targanym wewnętrznymi konfliktami społeczeństwie. Dostrzega on także nieuchronną konieczność dokonywania trudnych wyborów, które mają swoje realne koszty – np. walka z dezinformacją i szerzeniem niebezpiecznych treści w internecie siłą rzeczy generować musi napięcia związane z ograniczaniem wolności słowa.
Nie z wszystkimi tezami autora się zgadzam. Sulejman prezentuje np. założenie, że błyskawiczny postęp technologiczny jest nieunikniony a naszym jedynym problemem jest umiejętne go powstrzymywanie. Konsekwencją takiego postawienia problemu jest uznanie, że głównym intelektualnym „grzechem” ludzkości pozostaje awersja do technologicznego pesymizmu, czyli wypieranie z naszej świadomości ryzyka, że coś może pójść źle w zakresie wpływu nowych technologii na rzeczywistość społeczną. Tego typu postawa zapewne rzeczywiście bywa prezentowana – np. pośród technologicznych przedsiębiorców i inwestorów w Dolinie Krzemowej. Jednak w wielu innych miejscach na świecie – np. w Europie – dostrzec można tendencję wręcz odwrotną, czyli sporo anty-technologicznego pesymizmu, oraz lęku i sceptycyzmu zarówno wobec AI jak i biologii syntetycznej. Postęp technologiczny i cywilizacyjny nie jest nieunikniony, a historia zna wiele przykładów upadku i regresu bardzo zaawansowanych cywilizacji. Historia zna też przykłady niewykorzystania potencjału określonych technologii na skutek zdecydowanie wyolbrzymionych lęków, czego najlepszych przykładem jest energetyka jądrowa. Gdyby ludzkość nie postanowiła odstawić tej bezemisyjnej technologii na boczny tor zapewne bylibyśmy dziś w dużo lepszej sytuacji w walce ze zmianami klimatycznymi, a kilku międzynarodowych złoczyńców w stylu Putina zapewne miałoby mniej pieniędzy z paliw kopalnych na prowadzenie swojej zbrodniczej polityki.
Książka Mustafy Sulejmana nie jest i nie próbuje być jakąś systematyczną analizą problemu. Ma też w sobie wiele sprzeczności – z jednej strony przejawia fascynację technologiami a z drugiej strony obawy przed przyszłością, którą one przyniosą. Autor nie udaje, że zna wszystkie odpowiedzi, raczej prowokuje do zadawania pytań. Nie ukrywa faktu, że każda ingerencja regulacyjna ma swoje koszty i nieprzewidziane konsekwencje. Pięknym obliczem Sulejmana jest to, że był on kiedyś zaangażowanym działaczem społecznym w Londynie, dzięki czemu jego sposób myślenia nieco odbiega od typowej mentalności technologicznego przedsiębiorcy.
W ostatecznym rozrachunku jest to uczciwy rachunek sumienia osoby, która wierzy w moc nowych technologii, ale z tej wiary wynika także przekonanie, że najgorsze co mogłoby się przydarzyć ludzkości to jakaś spektakularna katastrofa z nimi związana, która na wiele dekad pogrzebałaby pokładane w nich nadzieje.