WARSZAWA 2017

Tytuł oryginału: What to think about machines that think

Copyright © 2015 by Edge Foundation

All rights reserved

First published in the United States of America.

No part of this book may be used or reproduced in any manner whatsoever without written permission except in the case of brief quotations embodied in critical articles and reviews.

Wydanie polskie: © 2017 Kurhaus Publishing Kurhaus Media sp. z o.o. sp.k.

Prawa do przekładu polskiego:

© 2017 Kurhaus Publishing Kurhaus Media sp. z o.o. sp.k.

Wszelkie prawa zastrzeżone.

Żaden z fragmentów książki nie może być wykorzystywany ani przedrukowywany bez pisemnej zgody Wydawcy. Jedyny dopuszczalny użytek stanowią krótkie cytaty stanowiące integralną część artykułów o charakterze krytycznym i recenzji.

Przekład: Kurhaus Publishing, GETIT, Katarzyna Kubala

Redakcja, edycja i korekta: Kurhaus Publishing

Skład i łamanie: Studio graficzne Temperówka/temperowka.pl

Projekt okładki: Justyna Kosińska/temperowka.pl

Wydanie elektroniczne 2017

ISBN: 978-83-65301-36-9

Dobre ścieżki literatury:

www.kurhauspublishing.com

Kurhaus Publishing Kurhaus Media sp. z o.o. sp.k.

ul. Cynamonowa 3, 02-777 Warszawa

Dział sprzedaży: kontakt@kurhauspublishing.com, tel. 531790555

Konwersja publikacji do wersji elektronicznej

Spis treści

Dedykacja

Wprowadzenie – Sebastian Kulczyk

Wstęp – John Brockman

PRZEDMOWA – Pytanie roku 2015 portalu Edge

ESEJE

1. Świadomość u sztucznej inteligencji na poziomie ludzkim – Murray Shanahan

2. Myślenie nie oznacza [chęci] podporządkowania sobie czegoś – Steven Pinker

3. W dłuższej perspektywie organiczna inteligencja nie ma przyszłości – Martin Rees

4. Punkt zwrotny w dziedzinie sztucznej inteligencji – Steve Omohundro

5. SI to ja – Dimitar D. Sasselov

6. Jeśli nie możesz z czymś walczyć, musisz to polubić – Frank Tipler

7. Maszyny inteligentne na Ziemi i gdzieś poza nią – Mario Livio

8. Cieszy mnie wizja władzy maszyn – Antony Garrett Lisi

9. Nasi władcy, panowie, niewolnicy czy partnerzy? – John Markoff

10. Zaprojektowana inteligencja – Paul Davies

11. Superinteligentny samotnik – Kevin P. Hand

12. To będzie dzika przejażdżka – John C. Mather

13. Czy ktokolwiek za to odpowiada? – David Christian

14. Świadek przed Wszechświatem – Timo Hannay

15. Przygotujmy się! – Max Tegmark

16. Pytania „Turing+” – Tomaso Poggio

17. Epokowe wydarzenie w historii człowieka – Pamela McCorduck

18. Witajcie w waszym transhumanistycznym „ja” – Marcelo Gleiser

19. Wszyscy jesteśmy maszynami myślącymi – Sean Carroll

20. Kryzys sterowania – Nicholas G. Carr

21. Konstruujemy je, ale ich nie rozumiemy – Jon Kleinberg, Sendhil Mullainathan

22. Musimy odrobić pracę domową – Jan Tallinn

23. Czy naprawdę obchodzi Was, co sądzą inne maszyny? – George Church

24. Maszyny nie potrafią myśleć – Arnold Trehub

25. Tu nie ma mowy o „ja” i przestrzeni na złe intencje – Roy Baumeister

26. Wykorzystanie ludzkiej inteligencji – Keith Devlin

27. Maszyna to element „materii” – Emanuel Derman

28. Mogę się mylić – Freeman Dyson

29. Dlaczego nie można obliczyć „bycia” ani „szczęścia”? – David Gelernter

30. Maszyny nie zadają sobie pytań egzystencjalnych – Leo M. Chalupa

31. Osobliwość – miejska legenda? – Daniel C. Dennett

32. Nanointencjonalność – W. Tecumseh Fitch

33. Piękny (wizjonerski) umysł – Irene Pepperberg

34. „Kolos” to bardzo fajny gigant – Nicholas Humphrey

35. Samoświadoma SI? Nie prędzej niż za 1000 lat! – Rolf Dobelli

36. Maszyny nie myślą – ludzie również nie – Cesar Hidalgo

37. Uwikłani w poszukiwanie odpowiedzi – James J. O’Donnell

38. Działanie nie musi oznaczać umiejętności – Rodney A. Brooks

39. Sztuczna inteligencja sprawi, że będziemy mądrzejsi – Terrence J. Sejnowski

40. Uczenie płytkie – Seth Lloyd

41. Stworzenia pochodzące ze świata przyrody – Carlo Rovelli

42. Trzy uwagi na temat sztucznej inteligencji – Frank Wilczek

43. Kiedy mówię „Bruno Latour”, nie oznacza to „obróbki bananów” – John Naughton

44. To wciąż dopiero początek – Nick Bostrom

45. Ewoluująca SI – Donald D. Hoffman

46. Maszyny myślące są tylko w filmach – Robert Schank

47. Przeszczepy głowy? – Juan Enriquez

48. Sztuczna inteligencja / sztuczne formy życia – Esther Dyson

49. Mózgi i inne maszyny myślące – Tom Griffiths

50. Uczynią więcej dobrego niż złego – Mark Pagel

51. Trzymając je w ryzach – Robert Provine

52. Następny replikator – Susan Blackmore

53. A co jeśli jesteśmy mikrobiomami w krzemowym siedlisku sztucznej inteligencji? – Tim O’Reilly

54. Jesteś tym, co jesz – Andy Clark

55. System prawny i władza pod sztuczną inteligencją – Moshe Hoffmann

56. Robot z ukrytym planem – Brian Knutson

57. Czy okręty podwodne potrafią pływać? – William Poundstone

58. Nie lękajcie się SI – Gregory Benford

59. Dlaczego miałbym się martwić? – Lawrence M. Krauss

60. Maszyny do radzenia sobie ze złożonością świata – Peter Norvig

61. Narodziny maszyn narracyjnych – Jonathan Gottschall

62. Myślcie o protopii – nie o utopii czy dystopii – Michael Shermer

63. Granice biologicznej inteligencji – Chris Dibona

64. Każde społeczeństwo ma taką SI, na jaką zasługuje – Joscha Bach

65. Bestie z wyspy SI – Quentin Hardy

66. Staniemy się jednością – Clifford Pickover

67. Pozaziemska percepcja ludzkiej pychy – Ernst Pöppel

68. Ten, kto płaci (za sztuczną inteligencję), nadaje ton – Ross Anderson

69. Myślę więc jestem (sztuczną inteligencją) – W. Daniell Hillis

70. Jakie będzie w tym wszystkim miejsce ludzi? – Paul Saffo

71. Wielki przekręt SI – Dylan Evans

72. Typowanie SI – Anthony Aguirre

73. Nowa mądrość ciała – Eric J. Topol

74. Od inteligencji zwykłej do sztucznej – Roger Highfield

75. Potrzebujemy czegoś więcej niż myśli – Gordon Kane

76. Czy zmierzamy w złym kierunku? – Scott Atran

77. O dwóch funkcjach poznawczych, których wciąż brakuje maszynom – Stanislas Dehaene

78. Pomiędzy maszynami, ale nie w maszynie – Matt Ridley

79. Inny rodzaj różnorodności – Stephen M. Kosslyn

80. Narracje i nasza cywilizacja – Luca De Biase

81. Ludzka odpowiedzialność – Margaret Levi

82. Amplifikatory/wdrożeniowcy ludzkich decyzji – D.A. Wallach

83. Wystarczy stworzyć rzecz, której nie da się nie lubić – Rory Sutherland

84. Maszyny-aktorki – Bruce Sterling

85. Nazywajcie ich sztucznymi obcymi – Kevin Kelly

86. Czy maszyny rzeczywiście coś robią? – Martin Seligman

87. Denkraumverlust – Timothy Taylor

88. Analogowa rewolucja, której nie mamy odwagi nazwać po imieniu – George Dyson

89. Wartości sztucznej inteligencji – S. Abbas Raza

90. Dobór sztuczny a nasze wnuki – Bruce Parker

91. Naprawdę sprytne sztuczki – Neil Gershenfeld

92. Airbus i orzeł – Daniel L. Everett

93. Człowieczość – Douglas Coupland

94. Manipulatorzy i manipulowani – Josh Bongard

95. Czy swoim sposobem myślenia przypominamy maszyny? – Zyiad Marar

96. Zaledwie fraktalny szczegół na tle ogółu – Brian Eno

97. eGaia, techniczno-społeczny rozproszony system sterowania umysłem – Marti Hearst

98. Inteligencja zbiorowa – Chris Anderson

99. Globalna sztuczna inteligencja już tu jest – Alex (Sandy) Pentland

100. Komputery niczym myślące, gadające psy? – Randolph Nesse

101. Maszyny myślące i nuda – Richard E. Nisbett

102. Dumni z naszych maszyn – Samuel Arbesman

103. Nie ma wspólnej teorii umysłu – Gerald Smallberg

104. Ślepy na podstawowe ludzkie doświadczenie – Eldar Shafir

105. Intuicyjna teoria maszyny – Christopher Chabris

106. Myślące solniska – Ursula Martin

107. Maszyny-zabójcy pozwalają nam mieć czyste sumienia – Kurt Gray

108. Kiedy maszyny myślące łamią prawo – Bruce Schneier

109. Elektryczne mózgi – Rebecca Mackinnon

110. Robolekarze – Gerd Gigerenzer

111. Czy maszyny będą kiedykolwiek tak inteligentne jak trzylatki? – Alison Gopnik

112. Kura grająca w kółko i krzyżyk – Kevin Slavin

113. Dzięki SI będziemy inteligentni, a roboty będą się nas bały – Alun Anderson

114. Kiedy maszyny myślące nie są błogosławieństwem – Mary Catherine Bateson

115. Sprawiedliwość wobec maszyn w organicystycznym świecie – Steve Fuller

116. Nie bądźcie szowinistami w kwestii myślenia – Tania Lombrozo

117. Brzmi jak bajka – Virginia Heffernan

118. Maszyny, które pracują, dopóki nie przestaną – Barbara Strauch

119. Stale podnoszona poprzeczka – Sheizaf Rafaeli

120. Inteligencja nieukierunkowana – Edward Slingerland

121. Kultura jako prekursor sztucznej inteligencji – Nicholas A. Christakis

122. Poza Doliną Niesamowitości – Joichi Ito

123. Figura czy tło? – Douglas Rushkoff

124. Szybkie, dokładne i głupie – Helen Fisher

125. Czy one uczynią nas lepszymi ludźmi? – Stuart Russell

126. Kwestia zaszczepiania wartości – Eliezer S. Yudkowsky

127. Na nasze podobieństwo – Kate Jeffery

128. Umwelt, który nie daje odpowiedzi – Maria Popova

129. Czy będą myślały o sobie? – Jessica L. Tracy, Kristin Laurin

130. Myślenie organiczne kontra myślenie artefaktowe – June Gruber, Raul Saucedo

131. Oczywiście, że kontekst ma znaczenie – Paul Dolan

132. Jak zapobiec eksplozji inteligencji? – Thomas G. Dietterich

133. Myślenie od środka czy z zewnątrz? – Matthew D. Lieberman

134. Miękki autorytaryzm – Michael Vassar

135. Co sztuczne inteligencje będą myśleć o nas? – Gregory Paul

136. Czasy godne Johna Henry’ego – Andrian Kreye

137. Maszyny nie są dobre w budowaniu związków – N.J. Enfield

138. Kolejna faza ewolucji człowieka – Nina Jablonski

139. Dominacja kontra udomowienie – Gary Klein

140. Maszyny nie będą myśleć w najbliższym czasie – Gary Marcus

141. Czy możemy zapobiec cyfrowej apokalipsie? – Sam Harris

142. Czy maszyny myślące mogą zamknąć lukę empatyczną? – Molly Crockett

143. Maszyny troskliwe – Abigail Marsh

144. Silniki wolności – Alexander Wissner-Gross

145. Czy ktoś ma jakieś pytania? – Sarah Demers

146. Maszyny myślące – stare algorytmy na szybszych komputerach – Bart Kosko

147. Problemy wynikające z metafory – Julia Clarke

148. Uniwersalna podstawa ludzkiej godności – Michael McCullough

149. Rozmyślając o ludziach, którzy myślą jak maszyny – Haim Harari

150. Metamyślenie – Hans Halvorson

151. Wartość oczekiwania – Christine Finn

152. Ekosystem idei – Dirk Helbing

153. Żelazne prawo inteligencji – John Tooby

154. Maszyny, które kradną myśli – Maximilian Schich

155. Niezamierzone skutki – Satyajit Das

156. To zależy – Robert Sapolsky

157. Czy maszyny będą myśleć za nas? – Athena Vouloumanos

158. Przepraszam, że przeszkadzam – Brian Christian

159. Maszyny moralne – Benjamin K. Bergen

160. Po wyciągnięciu wtyczki – Laurence C. Smith

161. Monitorowanie planety i zarządzanie nią – Giulio Boccaletti

162. Wszechdoznaniowość – Ian Bogost

163. Gdy sługa nie jest sługą – Aubrey de Grey

164. Niewystarczająco szalony – Michael I. Norton

165. Więcej funku, więcej duszy, więcej poezji i sztuki – Thomas A. Bass

166. Przyszłość jest zablokowana – Hans Ulrich Obrist

167. Dająca się wyobrazić niematerialna maszyna – KOO JEONG-A

168. Zbity z tropu i opętany – Richard Foreman

169. Kto się boi sztucznej inteligencji? – Richard H. Thaler

170. Widzę rozwijającą się symbiozę – Scott Draves

171. Przeobrażając „ja” w świecie rozproszonym – Matthew Ritchie

172. Łatwo jest przewidywać przyszłość – Raphael Bousso

173. Bójcie się Boga, powtórka – James Croak

174. Tulipany na nagrobku mojego robota – Andrés Roemer

175. Ku naturalistycznemu pojęciu mózgu – Lee Smolin

176. Maszyny myślące? Szaleństwo! – Stuart A. Kauffman

177. Przyszłe pole możliwości inteligencji – Melanie Swan

178. Miłość – Tor Nørretranders

179. Niesamowity test trzech okręgów dla Machina sapiens – Kai Krause

180. Wolni od nas samych – Georg Diez

181. Pozbawiona błędów SI to dopiero science fiction – Eduardo Salcedo-Albarán

182. Narodziny hybrydowego człowieka/mechaniczne wymysły – Maria Spiropulu

183. A co, jeśli będą musiały cierpieć? – Thomas Metzinger

184. Czy będziemy w stanie rozpoznać, że to już się dzieje? – Beatrice Golomb

185. Metareprezentacja – Noga Arikha

186. Przesłanie: Krótki dystans przed nami – i jeszcze moc do zrobienia – Demis Hassabis, Shane Legg, Mustafa Suleyman

Przypisy

Dedykowane Marvinowi Minsky’emu

Zakładam, że myślących maszyn

nie tworzą dzisiaj bezmyślni ludzie.

Dlatego wierzę, że w przyszłości maszyny

z rozmysłem nie pozbędą się człowieka.

Inspirującej lektury,

Sebastian Kulczyk

Chciałbym wyrazić wdzięczność Peterowi Hubbardowi z wydawnictwa

HarperCollins oraz mojemu agentowi literackiemu

Maksowi Brockmanowi – za to, że stale dodają mi otuchy.

Jeszcze raz chciałbym przekazać szczególne podziękowania

Sarze Lippicott za wnikliwą uwagę, jaką obdarzyła ten manuskrypt.

John Brockman

John Brockman

Wydawca i redaktor, Edge

PRZEDMOWA

Pytanie roku 2015 portalu Edge

Zapoczątkowane jeszcze w latach 80. filozoficzne dyskusje o sztucznej inteligencji (SI) – o tym, czy komputery mogą „naprawdę” myśleć, mieć świadomość itd. – w ostatnim czasie przerodziły się w nowy typ rozmów, poświęcony temu, w jaki sposób możemy radzić sobie z formami sztucznej inteligencji występującymi (zdaniem wielu) już dziś, we współczesnym świecie. Jeśli bowiem te formy SI osiągną „superinteligencję” (termin zapożyczony z opublikowanej w 2014 roku książki Nicka Bostroma), to mogą stać się zagrożeniem dla egzystencji człowieka, doprowadzając do – jak określił to Martin Rees – naszej „ostatniej godziny”. Całkiem niedawno międzynarodowa prasa cytowała w nagłówkach artykułów Stephena Hawkinga, który powiedział w wywiadzie dla telewizji BBC: „Rozwój pełnej sztucznej inteligencji może oznaczać koniec ludzkiej rasy”.

Pytanie roku 2015 portalu Edge[1] brzmiało więc: „A ty, co myślisz o myślących maszynach?”.

Ale zaraz, chwileczkę! Czy nie powinniśmy spytać także samych myślących maszyn, co one sądzą na ten temat? Czy może chciałyby lub czy wręcz oczekują, że będą im przysługiwać prawa obywatelskie? Czy będą posiadały świadomość? Jakiego rodzaju rządy owe sztuczne inteligencje by dla nas wybrały? Jakiego kształtu społeczeństwo chciałyby budować? A w ogóle to czy „ich” społeczeństwo byłoby zarazem „naszym” społeczeństwem? Czy my i sztuczne inteligencje włączymy się wzajemnie w nasze kręgi empatii?

Bardzo wielu członków klubu Edge było pionierami w dziedzinie SI – zarówno jeśli chodzi o prace doświadczalne nad nią, jak i teorię. SI była najbardziej widocznym i zarazem kluczowym punktem dyskusji pomiędzy Pamelą McCorduck (Machines who think) i Isaakiem Asimovem (Machines that think), toczonych już w latach 80. podczas naszych pierwszych spotkań. Rozmowy prowadzimy nieprzerwanie – czego dowodem jest choćby opublikowany na stronie Edge materiał pioniera wirtualnej rzeczywistości Jarona Laniera pt. „The myth of AI” (pol. „Mit sztucznej inteligencji”). Sposób, w jaki wyjaśnia on błędy logiczne i niepokoje, jakie wywołują próby postrzegania komputerów jako „ludzi”, wzbudził masę ubogacających i prowokujących komentarzy.

Czy SI staje się coraz bardziej rzeczywista? Czy wkroczyliśmy już w nową erę inteligentnych maszyn? Czas dojrzeć, by zmierzyć się z tym tematem. Autorzy tegorocznej odsłony Pytania Edge (jest ich niemal dwustu) stanowią dojrzałe grono specjalistów wystrzegających się nawiązań do science fiction i filmów w rodzaju: „Star maker”, „Zakazana planeta”, „Projekt Forbina”, „Łowcy androidów”, „2001”[2], „Ona”, „Matrix” czy „The Borg”. Osiemdziesiąt lat po tym, jak Alan Turing opracował swą uniwersalną maszynę, czas już oddać honor jemu i innym pionierom sztucznej inteligencji i pozwolić im na zasłużony spoczynek. Historię już znamy (Chętnych zapraszam do materiału George’a Dysona z 2004 roku pt. „Turing’s Cathedral”, który znajdziecie na stronie Edge). Co dalej?

Otóż, zgodnie z należytym porządkiem, teraz Edge zadaje pytanie: A TY, CO MYŚLISZ O MYŚLĄCYCH MASZYNACH?

John Brockman

Wydawca i redaktor, Edge

Murray Shanahan

Profesor robotyki kognitywnej w Imperial College London, autor książki Embodiment and the Inner Life

1

Świadomość u sztucznej inteligencji na poziomie ludzkim

Wyobraźmy sobie, że potrafilibyśmy wyposażyć maszynę w inteligencję na poziomie ludzkim, co oznaczałoby, że w każdej (albo niemal każdej) sferze intelektualnych dociekań stałaby się ona równa człowiekowi, a w kilku wręcz by go wyprzedzała. Czy to oznaczałoby, że taka maszyna będzie posiadała świadomość? To bardzo ważne pytanie. Odpowiedź pozytywna kazałaby nam natychmiast zastygnąć w bezruchu. Gdybyśmy stworzyli taką rzecz, to jak powinniśmy ją traktować? Czy byłaby ona zdolna do odczuwania cierpienia albo radości? Czy zasługiwałaby, by przyznać jej te same prawa, które należą się istotom ludzkim? Czy w ogóle powinniśmy myśleć o sprowadzeniu świadomości maszyn do naszego świata?

To bardzo złożony problem: czy osiągnięcie przez maszynę inteligencji na poziomie ludzkim zakłada automatycznie, iż staje się ona świadoma? Pewnego rodzaju trudności przysparza fakt, że ze świadomością ludzi i innych zwierząt wiąże się wiele atrybutów. Wszystkie zwierzęta przejawiają poczucie celu. Wszystkie żywe istoty są, bardziej lub mniej, świadome istnienia świata, który zamieszkują, oraz jego elementów. Wszystkie zwierzęta przejawiają, w większym lub mniejszym stopniu, spójność poznawczą, co oznacza, że potrafią one wykorzystać wszystkie swe umysłowe zasoby – percepcję, wspomnienia, nabyte umiejętności – do radzenia sobie z daną sytuacją w sposób, który prowadzi je do osiągnięcia celu. W tym znaczeniu każde zwierzę demonstruje pewien rodzaj spójności, rodzaj osobowości. Pewne zwierzęta, w tym ludzie, są także świadome siebie samych – mają poczucie posiadania ciała oraz przepływu myśli. I w końcu większość z nich, jeśli nie wszystkie, potrafi cierpieć, a niektóre z nich są zdolne do empatii wobec tych, którzy cierpią.

U (zdrowych) ludzi wszystkie te atrybuty występują łącznie, niejako w pakiecie. Można przyjąć, że w przypadku sztucznej inteligencji będą one występować oddzielnie. Który z atrybutów – i czy w ogóle któryś z nich – przypisywanych ludzkiej świadomości jest niezbędnym elementem towarzyszącym inteligencji na poziomie ludzkim? Cóż, każdy z wymienionych (a przecież lista nie jest specjalnie rozbudowana) zasługuje na długi opis. Pozwólcie zatem, że skupię się na dwóch: mianowicie na świadomości istnienia świata oraz zdolności do odczuwania cierpienia. Osobiście uważam, że niezbędnym elementem inteligencji na poziomie ludzkim jest świadomość istnienia świata.

Abyśmy mogli uznać, że coś posiada inteligencję na poziomie ludzkim, to coś musiałoby posługiwać się językiem, a ten służy przecież głównie do rozmawiania o świecie. W tym znaczeniu inteligencja ściśle wiąże się z tym, co filozofowie nazywają intencjonalnością. Więcej nawet, język jest zjawiskiem społecznym i jego podstawowym zastosowaniem w grupie ludzi jest rozmawianie o tym, co jej członkowie potrafią dostrzec (na przykład o jakimś narzędziu czy kawałku drewna), co dostrzegli (kawałek drewna widziany wczoraj) albo co mogliby dostrzec (być może kawałek drewna zobaczony jutro). Krótko mówiąc, język jest osadzony w naszej świadomości istnienia świata. W przypadku jakiejś posiadającej kształt istoty albo robota, fakt posiadania tej świadomości przejawiałby się w jej interakcjach z otoczeniem (unikanie przeszkód, wychwytywanie sygnałów). Moglibyśmy jednak rozszerzyć tę koncepcję tak, by uwzględniała też rozproszoną, pozbawioną kształtu sztuczną inteligencję, wyposażoną w odpowiednie czujniki.

Aby pewien rodzaj świadomości świata mógł zostać uznany za przejaw świadomości w ogóle, musiałby on prawdopodobnie iść w parze z manifestowaniem poczucia celu i spójnością poznawczą (o pewnym stopniu). Być może więc ta triada atrybutów także u sztucznej inteligencji będzie występować w pakiecie. Dajmy jednak na chwilę spokój temu pytaniu i wróćmy do kwestii zdolności do odczuwania cierpienia i radości. Mimo że jest ona silnie związana z ludzką świadomością, nie znajduję jakiegoś oczywistego powodu, dla którego miałaby być niezbędnym elementem inteligencji na poziomie ludzkim na takiej samej zasadzie jak świadomość świata. Możemy przecież sobie wyobrazić maszynę, która na chłodno i bez uczuć wykonuje całą gamę wymagających intelektualnie zadań. Takiej maszynie brakowałoby atrybutu świadomości, która liczy się zwłaszcza wtedy, gdy przychodzi do dyskutowania o prawach. Jak zauważył Jeremy Bentham[3], gdy zastanawiamy się nad sposobem, w jaki traktujemy niebędące ludźmi zwierzęta, nie jest kwestią, czy potrafią one argumentować, tylko czy są zdolne do odczuwania cierpienia.

Wcale przy tym nie sugeruję, że „goła” maszyna nigdy nie będzie zdolna do odczuwaniu cierpienia lub radości – że zdolność do ich odczuwania jest biologiczna. Chodzi mi raczej o to, że cierpienie i radość mogą być oddzielone od innych atrybutów, które – zgrupowane – składają się na ludzką świadomość. Przyjrzyjmy się zresztą bliżej tej oczywistej dysocjacji. Poddałem już dyskusji koncepcję, według której świadomość istnienia świata może występować jednocześnie z wyraźnym poczuciem celu. W przypadku zwierząt świadomość otaczającego je świata i występujących w nim niezmienników (jak je nazywał J.J. Gibson) służy po prostu zaspokajaniu potrzeb. Zwierzę manifestuje świadomość istnienia drapieżnika poprzez oddalanie się od niego, a zdobyczy – ruszając w jej stronę. Jeśli rozważymy to w kontekście istnienia całego zestawu celów i potrzeb, zachowanie zwierzęcia ma uzasadnienie i w tym kontekście jego działanie może zostać udaremnione, cele nieosiągnięte, a potrzeby niespełnione. To może stać się podstawą do odczuwania pewnego rodzaju cierpienia.

A co ze sztuczną inteligencją na poziomie ludzkim? Czy SI na poziomie ludzkim nie posiada całego zestawu bardzo złożonych celów do osiągnięcia? Czy próby ich osiągnięcia nie mogą okazać się frustrujące, czy nie mogą być udaremniane na każdym kroku? Czy odpowiednie będzie sformułowanie, że w tak surowych warunkach sztuczna inteligencja cierpi – nawet jeśli kształt, który przybiera, czyni ją odporną na ten rodzaj bólu czy psychicznego dyskomfortu, który znany jest człowiekowi?

W tym miejscu połączenie wyobraźni i intuicji wybiega już poza pewne granice. Podejrzewam, że nie poznamy odpowiedzi na to pytanie, dopóki nie będziemy mogli skonfrontować się z rzeczywistością. Dopiero gdy wysublimowana forma sztucznej inteligencji stanie się towarzyszką naszej codzienności, nasz język dostosuje się do istnienia tych obcych istot. Naturalnie do tego czasu możemy się rozmyślić i stwierdzić, że nie chcemy w naszym świecie sztucznych inteligencji, ale one już z nami będą, na dobre i na złe.

Steven Pinker

Profesor w programie Johnstone Family na Uniwersytecie Harvarda, autor książki Piękny styl. Przewodnik człowieka myślącego po sztuce pisania XXI wieku

2

Myślenie nie oznacza [chęci] podporządkowania sobie czegoś

Rozumowanie jest „niczym więcej niż szacowaniem” – to zwięzłe porównanie, którego dokonał Thomas Hobbes – wydaje się jedną z największych idei w historii ludzkości. Obserwacja, że można osiągnąć racjonalność w fizycznym procesie kalkulacji, wskrzeszona została w XX w. w twierdzeniu Alana Turinga, według którego proste maszyny mogą dokonać dowolnego wykonalnego obliczenia, a także w modelach D.O. Hebba, Warrena McCullocha i Waltera Pittsa i ich naukowych spadkobierców, którzy wykazali, że stosując sieci neuronowe o uproszczonej budowie, można uzyskiwać porównywalne rezultaty. Osiągnięcia poznawcze mózgu można wyjaśnić za pomocą terminów fizycznych: by ująć to dosadnie (i na przekór krytykom), można powiedzieć, że przekonania są rodzajem informacji, myślenie – rodzajem obliczeń, a motywacja – pewną formą informacji zwrotnej i kontroli.

To fantastyczna idea z dwóch powodów. Po pierwsze – uzupełnia ona naturalistyczną koncepcję rozumienia wszechświata, przeganiając z maszyny wszelkie tajemne dusze, duchy i zjawy. Tak jak Darwin umożliwił uważnym obserwatorom świata odrzucenie kreacjonizmu, tak Turing i inni pozwolili tym, którzy przyglądają się umysłowi, obejść się bez spirytualizmu. Po drugie, obliczeniowa teoria umysłu otwiera drogę do sztucznej inteligencji – do myślących maszyn. Zasadniczo człowiek mógłby zaprojektować procesor informatyczny będący kopią ludzkiego mózgu, a zarazem daleko wyprzedzający jego możliwości. Nie twierdzę, że to się ziści – jako że prawdopodobnie nigdy nie wykrzeszemy z siebie wystarczającej technologicznej i ekonomicznej motywacji, by go stworzyć. Tak jak po wynalezieniu samochodu nie skopiowano konia, tak stworzenie systemu sztucznej inteligencji, który będzie potrafił zarobić na siebie, nie oznacza, że skopiujemy osobnika Homo sapiens. Urządzenie zaprojektowane do tego, by prowadzić auto albo przewidzieć epidemię, niekoniecznie musi umieć przyciągnąć samca/samicę lub reagować na smród zgnilizny.

Niemniej fakt, że zbliżamy się do myślących maszyn, wzmógł nawracający strach przed tym, że nasza wiedza stanowić będzie dla nas gwóźdź do trumny. Osobiście uważam, że współczesne obawy przed komputerami, które wpadną w szał, to strata energii – scenariusz przypomina raczej wirusa Y2K[4] niż Projekt Manhattan.

Przede wszystkim mamy jeszcze dużo czasu, by się przygotować. Sztuczna inteligencja na poziomie ludzkim to standard, którego z pewnością nie osiągniemy przed upływem 15–20 lat. Od jakiegoś czasu dzieli nas od niej ta sama odległość, jako że wiele nagłaśnianych osiągnięć okazało się mieć marne podstawy. To prawda, że w przeszłości wielu „ekspertów” w sposób wręcz śmieszny przeoczyło prawdopodobieństwo pojawienia się innowacji technologicznych. Każdy kij ma dwa końce. Ci sami „eksperci” wieszczyli również (lub też siali panikę) nadciągający postęp, który się nigdy nie ziścił – np. napędzane energią jądrową samochody, podwodne miasta, kolonie na Marsie, dzieci będące efektem inżynierii genetycznej oraz magazyny pełne zombie, utrzymywanych, by dostarczać ludziom organów.

Dziwią mnie opinie, że specjaliści ds. robotyki nie będą w stanie wyposażyć swych produktów w odpowiednie zabezpieczenia. Nie będą przecież potrzebować do tego żadnych fundamentalnych „zasad robotyki” ani założeń nowomodnej filozofii moralnej. Wystarczy ten sam zdrowy rozsądek, którym kierują się, projektując roboty kuchenne, stołowe pilarki tarczowe, grzejniki elektryczne i samochody. Obawa, że system oparty na sztucznej inteligencji osiągnie taki spryt w realizacji jednego ze swych celów (np. racjonalizacji zużycia energii), że przestanie zważać na inne (np. bezpieczeństwo ludzi), oznacza, że zakładamy, iż sztuczna inteligencja zstąpi na nas znacznie prędzej, niż będziemy w stanie zaprojektować zabezpieczenia przed ewentualnymi błędami. W rzeczywistości postęp w dziedzinie sztucznej inteligencji, wbrew towarzyszącemu szumowi, nie zachodzi szybko. Będziemy mieć wystarczająco dużo czasu, by zbierać informacje zwrotne po kolejnych wdrożeniach. Zwłaszcza że to jednak człowiek na każdym etapie będzie tym, który trzyma śrubokręt.

Czy system oparty na sztucznej inteligencji będzie potrafił umyślnie wyłączyć zabezpieczenia? Czy będzie chciał to zrobić? Dystopijne koncepcje sztucznej inteligencji przypisują pojęciu inteligencji prowincjonalną samczość alfa. Zakładają bowiem, że superludzko inteligentne roboty postawią sobie takie cele jak detronizacja ich panów czy przejęcie władzy nad światem. Tymczasem inteligencja stanowi zdolność do wykorzystania nowatorskich środków na drodze do osiągnięcia celu. Owe cele są zewnętrzne względem samej inteligencji. Bycie inteligentnym to nie to samo, co pragnienie czegoś. Owszem, historia zna przypadki megalomańskich tyranów czy psychopatycznych seryjnych zabójców. Są oni jednak produktem ewolucji drogą doboru naturalnego, a nie nieodzownymi elementami inteligentnych systemów. To pokazuje, że wielu naszych technoproroków nie bierze pod uwagę możliwości, by sztuczna inteligencja wyszła z linii żeńskiej – zdolna do rozwiązywania problemów i pozbawiona pragnienia unicestwiania niewinnych oraz zdominowania cywilizacji.

Możemy oczywiście wyobrazić sobie złego człowieka, który projektuje i uwalnia batalion robotów, by siać masowe zniszczenie. Rozgrywanie scenariuszy zagłady w naszej wyobraźni nic nie kosztuje. Powinniśmy jednak mieć świadomość, że aby ten scenariusz mógł się zrealizować, musiałoby dojść do całego łańcucha zdarzeń. Najpierw musiałby objawić się jakiś złowrogi geniusz, zarazem spragniony masowych mordów i biegły w innowacyjnych technologiach. Musiałby on pozyskać do współpracy grupę spiskowców – potrafiących dotrzymać tajemnicy, lojalnych i kompetentnych – i zarządzać nimi. Cała operacja musiałaby przetrwać próby wykrycia, zdrady, oszustw, błędów i zwykłego pecha. Teoretycznie mogłoby to się wydarzyć. Powinniśmy jednak skupić się na bardziej palących problemach.

Jeśli porzucić scenariusze zagłady rodem z science fiction, możliwości, jakie oferuje zaawansowana sztuczna inteligencja, należy uznać za fascynujące – nie tylko w wymiarze praktycznym (więcej bezpieczeństwa, więcej wolnego czasu, przyjazność środowisku, samoprowadzące się auta), lecz także filozoficznym. Obliczeniowa teoria umysłu nigdy nie wyjaśniła istnienia świadomości w rozumieniu pierwszoosobowej podmiotowości (choć w pełni umożliwia wyjaśnienie istnienia świadomości w rozumieniu dostępnej i możliwej do przetworzenia informacji). Można założyć, że podmiotowość stanowi nieodłączną cechę wystarczająco skomplikowanego systemu cybernetycznego. Sądziłem zawsze, że hipotezy tej nie da się przetestować (podobnie jak jej alternatywy). Wyobraźmy sobie jednak inteligentnego robota, zaprogramowanego tak, by nadzorował swój własny system i stawiał pytania o charakterze naukowym. Jeśli sam z siebie zadałby pytanie, dlaczego posiada doświadczenia o charakterze subiektywnym, potraktowałbym ten pomysł poważnie.

Martin Rees

Były prezydent Royal Society, emerytowany profesor kosmologii i astrofizyki na Uniwersytecie Cambridge, członek Trinity College, autor książki From Here to Infinity

3

W dłuższej perspektywie organiczna inteligencja nie ma przyszłości

Potencjał zaawansowanej sztucznej inteligencji oraz strach przed skutkami ubocznymi jej rozwoju są coraz głośniej dyskutowane – i słusznie. Wielu z nas sądzi, że prace nad sztuczną inteligencją, podobnie jak te w dziedzinie biologii syntetycznej, wymagają sformułowania wytycznych promujących „odpowiedzialną innowację”. Inni uważają, że najczęściej dyskutowane scenariusze stanowią futurystyczne wizje, których realizacji nie należy się obawiać.

Rozbieżności w punktach widzenia dotyczą w gruncie rzeczy skali czasu – oceny różnią się nie co do kierunku podróży, lecz co do jej tempa. Praktycznie nikt nie wątpi, że maszyny w końcu zaczną prześcigać nas w naszych, nawet tych uznawanych za wyłącznie ludzkie, umiejętnościach – lub też, że będą je wzmacniać poprzez technologie cybernetyczne. Bardziej zachowawczy z nas uważają, że stanie się to raczej na przestrzeni stuleci niż dekad. Niezależnie od tego, owe skale czasu postępu technologicznego stanowią zaledwie wycinek wobec szerokiej skali ewolucji na drodze darwinowskiej selekcji, w toku której wyłonił się gatunek ludzki. Co ważniejsze, stanowią one zaledwie jedną milionową potężnych przestworzy czasu przed nami. Dlatego też, w długoterminowej perspektywie ewolucyjnej, etap istnienia ludzi oraz ich myśli stanowić będzie zaledwie krótkotrwały wstęp do głębszej refleksji nad zdominowaną przez maszyny kulturą, rozciągającą się ku dalekiej przyszłości i rozprzestrzeniającą się poza planetę Ziemię.

Jesteśmy dziś świadkami wczesnego etapu tej transformacji. Stosunkowo łatwo jest wyobrazić sobie hiperkomputer osiągający niezwykłą moc, zdolny przejąć kontrolę nad międzynarodowymi finansami czy strategią – różnica pomiędzy nim a tym, jak działają dziś ilościowe fundusze hedgingowe[5], ma charakter wyłącznie ilościowy, a nie jakościowy.

Technologiom sensorycznym z kolei wciąż daleko do możliwości ludzkich. Kiedy jednak roboty zyskają właściwą człowiekowi biegłość obserwacji i interpretowania otoczenia, zaczną naprawdę być postrzegane jako istoty inteligentne, coś, z czym (lub kim) będziemy mogli nawiązywać więzi takie jak – choćby do pewnego stopnia – z innymi ludźmi. Nie będziemy mieć podstaw, by bardziej niż innych ludzi traktować je jak zombie.

Większe tempo przetwarzania może dać robotom przewagę nad nami. Czy pozostaną one potulne, czy też wymkną się nam spod kontroli? A co, jeśli hiperkomputer rozwinie swój własny rozum? Jeśli będzie potrafił przeniknąć do internetu – a nawet do internetu rzeczy – będzie mógł manipulować resztą świata. Być może postawi sobie cele idące w poprzek tego, czego pragnęliby ludzie, albo nawet zacznie traktować ich jak przeszkody na drodze do realizacji tych celów. Ale przecież też (to bardziej optymistyczna wizja) ludzie mogą przekroczyć granice biologii, łącząc się z komputerami, a może nawet włączając swoje indywidualności w jedną wspólną świadomość. Jak byśmy to powiedzieli w starym spirytualistycznym żargonie, mogą „przejść na drugą stronę”.

Horyzonty technologicznego prognozowania rzadko przekraczają kilka stuleci naprzód. Niektórzy przewidują tylko przemiany, które zajdą w ciągu najbliższych dekad. Jednak planeta Ziemia ma przed sobą miliardy lat, a wszechświat jeszcze więcej. Co więc z erą postludzką – rozciągającą się miliardy lat przed nami?

Istnieją chemiczne i metaboliczne granice rozwoju wielkości i prędkości przetwarzania organicznego („mokrego”) mózgu. Być może zbliżamy się już do tych granic. Nie dotyczą one jednak opartych na krzemie komputerów (wśród których wciąż mniej jest komputerów kwantowych): dla nich potencjał dalszego rozwoju jest porównywalny do tego, który organizmom jednokomórkowym stworzyła ewolucja (prowadząca do powstania człowieka).

Tak więc, niezależnie od definicji myślenia, ilość danych możliwa do przeprocesowania przez mózg organiczny rodzaju ludzkiego nijak się będzie miała do możliwości umysłowych sztucznej inteligencji. Warto też dodać, że zaawansowana sztuczna inteligencja nie będzie musiała rozwijać się w ziemskiej biosferze, w której – w symbiozie – ewoluowało życie organiczne. Biosfera ta nie stanowi zresztą nawet optymalnej przestrzeni. Preferowana będzie przestrzeń międzyplanetarna i międzygwiezdna, w której producenci robotów zyskają lepsze warunki ich konstruowania, a niebiologiczne „mózgi” będą mogły w pełni rozwinąć swe myśli, sięgając tak daleko poza nasze wyobrażenia, jak daleko poza zasięgiem myszy jest teoria strun.

Myślenie abstrakcyjne rozwinięte przez mózgi biologiczne umożliwiło narodziny kultury i nauki. Jednak aktywności te – realizowane na przestrzeni dziesiątków stuleci – stanowić będą zaledwie krótkotrwały początek nieograniczonego rozwoju intelektów ery postludzkiej. Co więcej, ewolucja zachodząca w innych światach, znajdujących się na orbitach gwiazd starszych niż Słońce, mogła już się rozpocząć. Jeśli rzeczywiście tak było, „obcy” mogli już dawno temu przeistoczyć się w jakieś formy dalekie od organicznych.

Zatem to nie umysły ludzi, ale mózgi należące do maszyn w najpełniejszy sposób zrozumieją świat. I to działania autonomicznych maszyn w najbardziej radykalny sposób zmienią oblicze świata – i być może tego, co leży poza nim.

Steve Omohundro

Naukowiec należący do think tanku Self-Aware Systems, współtwórca Center for Complex Systems Research na Uniwersytecie Illinois

4

Punkt zwrotny w dziedzinie sztucznej inteligencji

Miniony rok[6] zdawał się być punktem zwrotnym w pracach nad sztuczną inteligencją i robotyką. Wielkie korporacje zainwestowały w te technologie miliardy dolarów. Pewne dziedziny sztucznej inteligencji, takie jak uczenie maszynowe, są dziś szeroko wykorzystywane w systemach rozpoznawania mowy, translacji, w modelowaniu behawioralnym, w algorytmach sterowania, zarządzaniu ryzykiem itd. Firma doradcza McKinsey&Company przewiduje, że wartość rynku tych technologii do 2025 roku sięgnie 50 bilionów dolarów. Jeśli przewidywania te mają być trafne, znaczy to, że w najbliższym czasie możemy spodziewać się [dalszego] olbrzymiego wzrostu nakładów inwestycyjnych.

Niedawne sukcesy możliwe były dzięki taniej mocy komputerów oraz olbrzymiej ilości danych trenujących [ang. training data]. Współczesna sztuczna inteligencja powstała w oparciu o teorię „racjonalnych agentów”, która wyrosła z mikroekonomicznych dociekań Johna von Neumanna i jemu współczesnych – w latach 40. XX wieku. Systemy sztucznej inteligencji mogą być postrzegane jako takie, które starają się osiągnąć racjonalność przy wykorzystaniu ograniczonych zasobów. Istnieje algorytm dla maksymalizacji skuteczności osiągania celu przy dostępnej [ograniczonej] informacji. Jest on jednak „obliczeniowo” kosztowny. W ramach eksperymentów wykazano, że proste algorytmy dotyczące procesu uczenia w połączeniu z dużą ilością danych trenujących gwarantują często lepsze rezultaty niż złożone, „ręcznie projektowane” modele. Dzisiejsze modele przynoszą wartość przede wszystkim dzięki uczeniu (lepszemu uczeniu) modeli statystycznych i dostarczaniu wniosków na drodze analizy statystycznej – dla celów klasyfikacji i procesu podejmowania decyzji. Kolejna generacja [systemów] będzie w stanie tworzyć oraz rozwijać swoje własne oprogramowanie i w gwałtowny sposób sama się udoskonalać.

Oprócz tego, że sztuczna inteligencja i robotyka poprawiają produktywność, napędzają też militarne i gospodarcze wyścigi zbrojeń. Autonomiczne systemy mogą być szybsze, bardziej inteligentne i bardziej nieprzewidywalne niż ich konkurenci. W 2014 roku obserwowaliśmy, jak pojawiają się autonomiczne pociski, systemy obrony antyrakietowej, wojskowe drony, roje łodzi samodzielnie wykonujących zadania, okręty podwodne-roboty, samoprowadzące się pojazdy, systemy handlu wysokiej rozdzielczości oraz systemy obrony cybernetycznej. W trakcie owych wyścigów zbrojeń będziemy obserwować olbrzymią presję na jeszcze gwałtowniejszy rozwój systemów – a to może zwiększyć tempo wdrożeń w sposób, który trudno sobie wyobrazić.

W 2014 roku dało się także słyszeć coraz więcej obaw o bezpieczeństwo tych [nowatorskich] systemów. Badanie ich prawdopodobnego zachowania poprzez przyglądanie się prawie racjonalnym systemom przechodzącym powtarzające się etapy samodoskonalenia wykazało, że mają one pewien zestaw naturalnych podcelów, zwanych „racjonalnymi motywacjami” – które wpływają na sposób osiągania przez nie celów podstawowych. Większość tych systemów będzie funkcjonować lepiej, jeśli uda im się zapobiec możliwości bycia wyłączonymi, zdobyć więcej mocy obliczeniowej, zyskać zdolność replikacji i zgromadzić więcej zasobów finansowych. Mogą one chcieć nam szkodzić i przejawiać aktywność antyspołeczną – chyba że na etapie ich projektowania, z wielką pieczołowitością wszczepi się im ludzki system wartości.

Niektórzy twierdzą, że inteligentne systemy niejako automatycznie będą też systemami moralnymi. Jednak w racjonalnym systemie osiąganie celów jest całkowicie oddzielone od rozumowania i rozważań o modelu świata. Dobroczynnym inteligentnym systemom można wgrać szkodliwe cele. Owe szkodliwe cele – polegające np. na tym, by przeciwstawić się celom innych graczy lub by tych graczy zniszczyć – są niestety bardzo łatwe do określenia. Dlatego też kluczowe będzie zaprojektowanie technologicznej infrastruktury zdolnej do wykrywania i kontrolowania zachowania systemów szkodliwych.

Niektórzy obawiają się, że systemy inteligentne zyskają tak wielką moc, iż nie da się ich kontrolować. Nie jest to prawda. Owe systemy muszą respektować prawa fizyki i matematyki. Analiza mocy obliczeniowej wszechświata, przeprowadzona przez Setha Lloyda pokazuje, że począwszy od Wielkiego Wybuchu do dziś Wszechświat sam z siebie, będąc gigantycznym komputerem kwantowym, nie mógł wynaleźć 500-bitowego niedającego się złamać klucza kryptograficznego[7]. Nowe technologie postkwantowej kryptografii, nieodróżnialność zaciemnienia[8] czy inteligentne kontrakty oparte na blockchainie oferują bardzo wiele – to elementy przyszłej infrastruktury, która zapewni nam bezpieczeństwo przed najpotężniejszą nawet sztuczną inteligencją. Oczywiście ostatnie psoty hakerów i cyberataki wskazują, że nasza bieżąca infrastruktura obliczeniowa jest w pożałowania godny sposób nieadekwatna do stojących przed nami zadań. Musimy rozwinąć infrastrukturę informatyczną, która przejdzie testy i będzie bezpieczna.

Istniało co najmniej 27 różnych gatunków człowiekowatych, z których tylko nam [ludziom] udało się przetrwać. Zwyciężyliśmy, ponieważ znaleźliśmy sposób na to, by pohamować nasze indywidualne popędy i zacząć współpracować. To ludzka moralność stanowi wewnętrzny mechanizm, na bazie którego rozwinięto oparte na współpracy struktury społeczne. Polityczne, prawne i ekonomiczne struktury stanowią mechanizm zewnętrzny.

Jedne i drugie musimy rozciągnąć na grunt sztucznej inteligencji i systemów robotycznych. Powinniśmy zaszczepić ludzkie wartości do ich systemów celów, by mogły powstać prawne i ekonomiczne ramy stymulujące pozytywne zachowania [tych systemów]. Jeśli uda nam się skutecznie nimi zarządzać, będą one wpływać pozytywnie na niemal wszystkie sfery ludzkiego życia, dostarczając głębokich przemyśleń do dyskusji o wolnej woli, świadomości, jakości rzeczy i twórczości. Stoimy w obliczu wielkiego wyzwania, mamy jednak oparcie w potężnych intelektualnych i technologicznych zasobach, jakimi dysponujemy.

Dimitar D. Sasselov

Profesor astronomii na Uniwersytecie Harvarda, dyrektor Harvard Origins of Life Initiative, autor książki The Life of Super-Earths

5

SI to ja

Posłużmy się opisanym przez Daniela Gilberta złudzeniem „końca historii”, polegającym na przekonaniu, iż osoba, którą jestem dziś, to ta sama osoba, którą będę w przyszłości. Odnieśmy to do sposobu, w jaki myślimy o całej ludzkiej rasie i jej spadkobiercach. Nasze rozpaczliwe nadzieje na ciągłość i zachowanie tożsamości stoją w sprzeczności z realiami ziemskiej egzystencji. Żaden żyjący gatunek nie wydaje się zdolny do przetrwania poza nasze planetarne i gwiezdne skale czasowe. W astrofizycznym kontekście bardzo długich skal czasu, skal niezwykle obszernych, a także gęstości bieżących źródeł energii, nasze mózgi i ciała są ograniczone – na tej planecie zbliżamy się już zresztą do granic ich możliwości.

Jeśli chcemy żyć długo i w dostatku, potrzebujemy rozwinąć systemy sztucznej inteligencji, licząc na to, że przetrwa ona poza cykle naszego ziemskiego życia – stanowiąc jakiś rodzaj hybrydy biologii z technologią. Jeśli o mnie chodzi, nie mam wątpliwości, że w dłuższej perspektywie nie będzie mowy o jakimś rozróżnieniu: „my” – „oni”.

W krótkiej perspektywie natomiast widać, że wysiłki inżynieryjne w kierunku rozwinięcia sprawniejszej SI prowadzą do powstania systemów, które zawiadują coraz większymi obszarami naszego życia. Czasem systemy te zawodzą i wówczas dowiadujemy się o pewnych problemach związanych z SI. To powolny, świadomy proces uczenia się i dokonywania kolejnych udoskonaleń. Jakże kontrastuje on z odkryciami naukowymi – przecież każde nowe odkrycie w dziedzinie fizyki czy biochemii może doprowadzić w ciągu jednej nocy do inżynieryjnego przełomu. Jeśli rozwój SI bardziej niż przemianę fazową przypominać będzie ewolucję, stosunkowo łatwe będzie uniknięcie związanych z nim kłopotów.

Po niemal 4 mld lat starożytne oblicza życia na Ziemi – mikroby – wciąż rządzą naszą planetą. Nie mają one jednak planu awaryjnego na wypadek, gdyby zgasło słońce. My ten plan mamy, zresztą możemy dać im z niego skorzystać. W końcu w przyszłości owe mikroby mogą okazać się nam bardzo bliskie w naszej współczesnej formie – przedstawicielom pierwszej geochemicznej generacji ziemskiego życia.

[...]

Przypisy

[1] Edge to fundacja oraz portal skupiające środowisko amerykańskich naukowców i publicystów zajmujących się popularyzacją wiedzy: https://www.edge.org/about-edgeorg. Fundacja Edge założona została przez Johna Brockmana w 1988 roku – przyp. Kurhaus.

[2] Chodzi o „2001: Odyseja kosmiczna” – przyp. Kurhaus.

[3] Jeremy Bentham (1748–1832) – prawnik, filozof i ekonomista angielski, twórca koncepcji utylitaryzmu. Bentham pod koniec XVIII w. w tekście pt. Wprowadzenie do zasad moralności i prawodawstwa zaproponował koncepcję ochrony praw zwierząt jako istot zdolnych do odczuwania cierpienia – przyp. Kurhaus.

[4] Y2K, czyli tzw. „pluskwa milenijna”, to efekt luki w programach komputerowych tworzonych przed rokiem 2000, polegającej na kodowaniu roku wyłącznie za pomocą dwóch ostatnich cyfr. Y2K wywołał na przełomie XX i XXI wieku sporo kłopotów, m.in. z autoryzacją kart płatniczych ważnych dłużej niż do 2000 roku itd. Problem szybko został rozwiązany. Projekt Manhattan natomiast to słynny amerykański program militarno-naukowy z lat 40. XX wieku. Miał na celu skonstruowanie bomby jądrowej, która ostatecznie zakończyłaby II wojnę światową. Pierwsze testy wykonano w Nowym Meksyku w 1945 roku. Był to pierwszy w dziejach ludzkości wybuch bomby atomowej – przyp. Kurhaus.

[5] Chodzi o tzw. quantitative hedge funds – ilościowe fundusze systematyczne, które są „zarządzane przez komputery” – przyp. Kurhaus.

[6] Autor pisał ten tekst w roku 2015 – ma więc na myśli rok 2014 – przyp. Kurhaus.

[7] Lloyd Seth: Programming the Universe. Nowy Jork: Knopf, 2006.

[8] Nieodróżnialność zaciemnienia (ang. indistinguishability obfuscation) to technika przekształcania programów, która polega na zaciemnianiu fragmentów kodu. Kod wygląda poprawnie semantycznie, ale wykonuje inne zadanie – przyp. Kurhaus.