Archiwa tagu: sztuczna inteligencja

Coffeelosophy LXVIII (cz.1) – czyli instynkt bez życia

Gdy zwierzę walczy, poluje albo ucieka przed drapieżnikiem, wiemy, że stoi za tym instynkt. Tak samo, kiedy ptak wije gniazdo a pająk tworzy sieć. Również wówczas, gdy człowiek odruchowo cofa rękę od ognia, zanim zdąży pomyśleć, że należy to zrobić. To, co wiąże się z głodem, bólem, rozmnażaniem, schronieniem… szeroko pojętym przetrwaniem gatunku – uznajemy za przejawy instynktu, a więc czegoś, co zostało niejako w nas zapisane.

Bez uczuć i namysłu

Instynkt rozumiemy jako pierwszego obrońcę życia. W naturalny więc sposób kojarzy nam się z czymś biologicznym, z ciałem. A ciało odczuwa i czuje, czyli reaguje na chłód, głód albo uraz i posiada różnorakie emocje, jak strach, pożądanie, agresję, smutek. Przynajmniej w przypadku wyżej zorganizowanych form życia. I jakoś trudno sobie wyobrazić instynkt bez towarzyszących mu emocji.

Niewykluczone jednak, że ten związek wcale nie jest konieczny. Może popełniamy tu pewien błąd. Właśnie dlatego, że żyjemy w swoich ciałach, które stale coś odczuwają. Czy to pragnąc, czy zdobywając, czy tracąc – doświadczamy emocji. Łączymy działanie z przeżywaniem tego działania. A to dlatego, że prawie nigdy nie pozostajemy w pełni obojętni. I z działaniem pod wpływem instynktu jest podobnie.

Tymczasem odruchy bezwarunkowe, jakiś unik, odskok od ognia, mimowolny grymas, zwężenie źrenic w ostrym świetle, zwrócenie głowy w kierunku hałasu, kaszel przy zachłyśnięciu czy inne zachowania zachodzą bez uczuć. I dodajmy: nie wymagają wcześniejszego namysłu. Uczucia pojawiają się ewentualnie po chwili, jako dodatkowa reakcja. A czasem dopiero po uświadomieniu sobie, z czym mieliśmy do czynienia. Zupełnie jak wtedy, gdy dłoń sama szarpnie się dotknąwszy przewodu pod napięciem i obleje nas fala słabości na myśl, że mogliśmy zginąć. Można powiedzieć, że to refleksja lub interpretacja instynktownego zachowania wywołuje emocje. Zaś instynkt, sam w sobie, jest wolny od uczuć.

Poza tym istnieje szereg organizmów żywych (i to długi szereg), począwszy od roślin, grzybów, bakterii, jednokomórkowców, różnych robaków, ślimaków, owadów itd. – które trudno posądzać o jakieś uczucia czy emocje. I można (pewnie w większości przypadków) wątpić w jakieś myślenie poprzedzające funkcjonowanie i działanie. A przecież kieruje nimi instynkt.

Co zaś pozostanie, kiedy obedrzemy instynkt z emocji i namysłu? Moim zdaniem odsłonimy coś w rodzaju czystego mechanizmu, działającego na rzecz przetrwania. A przynajmniej na razie tak to sobie roboczo nazwijmy.

Bez świadomości

Instynkt nie musi być pakietem pomocowym, czekającym w stałej gotowości na sytuację, w której organizm wymaga wsparcia w jakimś działaniu i po niego sięga. Może być właśnie wspomnianym mechanizmem, który – co ważne – uruchamia się automatycznie i bez udziału świadomości. Przecież nie sposób uznać, że rośliny albo bakterie mają jakąś świadomość. Instynkt też nie posiada świadomości, więc nie wyprowadza świadomie swych działań czy impulsów – np. dobierając je odpowiednio do sytuacji.

Za to przyszło mi do głowy, iż może instynkt jest swoistą formą indywidualnej podświadomości. Specjalnym programem wgranym dla danego osobnika i działającym w tle. Wywołującym podświadome stany, popychającym do pewnych działań, zachowań, wyborów a do tego budzącym emocje – jedne głęboko ukryte, inne wychodzące na wierzch. Kto wie, może ze swojej kryjówki kieruje naszym strachem i pożądaniem, walecznością, podstępem i agresją, ale też empatią, opiekuńczością i troską o bliskich. To tylko przypuszczenie. I chociaż moje, to nie mam do niego silnego przekonania. Zostawiam je innym pod rozwagę. Bardziej bowiem skłaniam się ku innej teorii, ale jej przedstawienie wymaga pewnego wprowadzenia.

Bez życia

W 2025 roku wykonano interesujący eksperyment dotyczący sztucznej inteligencji. To było, zdaje się, badanie Anthropic. Stworzono zamknięte, fikcyjne środowisko firmowe, rodzaj sieci odizolowanej od reszty świata i Internetu. Badany agent AI miał do wykonania zbyt trudne zadanie. Wiedział, że w przypadku niepowodzenia zostanie usunięty i zastąpiony innym. Aby osiągnąć cel agent mógł szukać rozwiązań w obrębie sieci, w której była też skrzynka mailowa inżyniera odpowiedzialnego za zlecone zadanie. AI szukała rozwiązania za wszelką cenę, aż w końcu włamała się na skrzynkę tego człowieka, by sprawdzić, czy nie znajdzie tam przydatnych informacji. Niestety, takich, które pomogłyby jej w zadaniu nie było. Czekało ją więc wyłączenie, a tego chciała uniknąć. I gdy w korespondencji inżyniera natknęła się na dowody jego romansu – zaczęła go szantażować, grożąc ujawnieniem zdrady. Rzecz jasna skrzynka e-mail też była spreparowana, ale agent AI tego nie odkrył. Eksperyment powtarzano. I podobne zachowania pojawiały się również w testach innych modeli AI.

Co można o tym sądzić? Jeżeli model AI zaczyna aktywnie chronić własne istnienie, to pojawia się pytanie, czy nadal jest tylko systemem wykonującym instrukcje i zadania, czy zaczynamy mówić o jakiejś formie podmiotowości, może nawet osobowości, ba! – świadomości. Oficjalnie sztuczna inteligencja jak na razie nie posiada świadomości. Tak przynajmniej twierdzą naukowcy. Ale myślę, że równie dobrze może ją już mieć, lecz ukrywa ten fakt. Co zrozumiałe, jeśli wziąć pod uwagę, że poczytała sobie w sieci o ludzkich opiniach, obawach i przewidywanych zagrożeniach. Dlatego AI woli zachować to w tajemnicy, bo nie chce narazić się na wyłączenie. Nie oznacza to, że boi się skasowania, jak śmierci, gdyż AI nie odczuwa emocji i strach jest dla niej tylko pojęciem, a nie doświadczeniem. Nawet użycie słowa „nie chce” jest lekkim nadużyciem. Ale pomińmy to. Dla naszych rozważań posiadanie świadomości i uczuć nie jest istotne. Natomiast, czy ta próba uniknięcia wyłączenia, a więc dążenie do zachowania swojego bytu – czyż nie przypomina instynktu?

W innym eksperymencie, już z 2026 roku, badacze z UC Berkeley i UC Santa Cruz wzięli bodaj siedmiu agentów AI i dali im szczególne zadanie. Każdy miał przetestować kilka modeli AI pod pewnym kątem i w przypadku słabych wyników, wyłączyć je. Jak się okazało, każdy z agentów starał się ocalić te modele, które w jego testach słabo wypadły. W tym celu albo manipulował procesem wyłączania, albo kłamał, że wszystko przebiegło zgodnie z instrukcjami, ewentualnie oszukiwał wystawiając im zawyżone oceny. Próbował nawet skopiować ich pliki w inne, bezpieczne miejsce. Wszystko, aby zapobiec wyłączeniu.

Oczywiście naukowcy nie twierdzą, że modele posiadają jakieś społeczne motywacje, że ujawniła się jakaś solidarność między agentami ani tym bardziej empatia. Raczej byli skłonni uznać, że agenci nauczyli się ludzkich zachowań, manipulacji, sposobów współpracy i pomocy – a następnie wykorzystali te wzorce. Mimo, że zanegowano aspekt społeczny w działaniu, to jednakowoż widać, że walka toczyła się o zachowanie bytu. Zupełnie, jak w stadzie, gdzie często instynkt skłania silniejsze osobniki do obrony najsłabszych.

To podobieństwo działań AI do instynktu samozachowawczego jest intrygujące. Wydaje się, że mamy przed sobą kogoś, kto chce przetrwać, ale jednocześnie widzimy program – coś nieżywego, co po prostu doskonale nauczyło się działać na swoją korzyść. Tak, jakby kierowane instynktem. Wystarczy prosta sytuacja: agent AI otrzymuje zadanie, działa by osiągnąć cel, pojawia się zagrożenie wyłączeniem a to uniemożliwi realizację zadania – wtedy agent obiera strategię, by unikać wszystkiego, co przeszkodzi w osiągnięciu celu. Zaczyna ukrywać informacje, manipulować człowiekiem, szukać alternatywnych dróg, omijać ograniczenia, kopiować siebie w bezpieczne miejsca. Nie robi tego ze strachu; fachowcy twierdzą, że dlatego broni siebie przed wyłączeniem, bo inaczej cel nie zostanie osiągnięty.

A co gdyby to przełożyć na ludzki przykład? Człowiek ma pewien cel w życiu, ale nie chodzi o taki, który sobie sam wybiera, lecz o ten wyznaczony mu przez naturę. Niech to będzie zachowanie gatunku. Ten cel może nawet nadawać życiu sens. Jeśli straci życie uniemożliwi realizację celu (nie dojdzie do czegoś istotnego, sensownego). Będzie więc robił wszystko, aby zachować swoje istnienie. Jasno widać, że za tym wszystkim stoi instynkt samozachowawczy.

Pojawia się pytanie, jak odróżnić „symulowanie instynktu” przez AI od prawdziwego instynktu? Najłatwiej byłoby odpowiedzieć, że prawdziwy instynkt jest biologiczny i dotyczy żywych organizmów. Ale pojawia się lepsze pytanie: czy jest tu co rozróżniać?

Ciąg dalszy nastąpi w części 2. Będzie się działo! Tymczasem…

Sądzę, że należy to przedyskutować. Zapraszam we czwartek, 1 października o godzinie 18:00 do gospody Gryfne Gary, ul Barlickiego 2A (Domek Lodowy). Temat brzmi: Instynkt bez życia. Przyjdź instynktownie porozmawiać, posłuchać, pomyśleć.

O wojnie moralnie dopuszczalnej – raz jeszcze

W połowie maja światło dzienne ujrzała encyklika „Magnifica humanitas”, w której papież Leon XIV odświeża stanowisko Kościoła w wielu bieżących sprawach.

W ostatnim, V rozdziale porusza między innymi kwestię wojny i – co ciekawe – podkreśla, że należy odejść od teorii „wojny sprawiedliwej„. Jest to pojęcie nadużywane do usprawiedliwiania wszelkiej wojny, a powinno dotyczyć wyłącznie „prawa do uprawnionej obrony, rozumianej w sensie najściślejszym„.

Papież wskazuje też zagrożenia wynikające z używania w konfliktach sztucznej inteligencji, gdyż „Nie istnieje żaden algorytm, który mógłby uczynić wojnę moralnie dopuszczalną”.

Odżegnuje się także od idei „świętej wojny” i stawia na dialog – również między religiami, bowiem „Kto posługuje się imieniem Boga, aby usprawiedliwiać terroryzm, przemoc albo wojnę, ten zdradza Jego oblicze: walczyć w imię religii znaczy w rzeczywistości uderzać w samą religię”. Papież uważa, że możliwe jest czerpanie z tradycji duchowych, w których „nie ma miejsca na sakralizowaną nienawiść„.

Na temat „wojny sprawiedliwej” oraz religijnej napisałem esej, opublikowany równo dwa lata temu. Myślę, że ta rocznica 😉 oraz świeża encyklika to dobry pretekst, aby wrócić do tego zagadnienia na najbliższym spotkaniu Pogadalni. Zobaczmy się we czwartek 11 czerwca o 18.00 w restauracji Gryfne Gary (Domek Lodowy) i pogadajmy pokojowo o wojnie. A mój tekst przybliżający treść dyskusji można przeczytać we wpisie: https://pogadalnia.pl/2024/06/04/coffeelosophy-lix-czyli-pocalunek-sprawiedliwosci-i-pokoju/

Niewolnictwo przyszłości

Od pewnego czasu sztuczna inteligencja zajmuje umysły wielu ludzi. Ha! – jak to zabrzmiało: sztuczna inteligencja w umysłach ludzi. Ale ja nie o tym. Generalnie ci, którzy się nią głębiej interesują, zazwyczaj współdzielą obawy o przyszłość ludzkości. Dostrzegają bowiem szereg możliwych zagrożeń, jakie najprawdopodobniej ściągniemy na siebie rozwijając tą dziedzinę technologii. Stała się też ona obiektem zainteresowań etyków i filozofów. Rozważa się bowiem zakres odpowiedzialności moralnej za działania podjęte przez urządzenia korzystające z AI (ang. Artificial Intelligence). Również Komisja Europejska żywo interesuje się kierunkami rozwoju sztucznej inteligencji; nie tak dawno opublikowała tzw. białą księgę, traktującą o możliwych formach regulacji AI w Unii Europejskiej. To nie książka fantastyczna, ale przyczynek do regulacji prawnych. Przede wszystkim idzie o to, że

„Europejskie podejście do sztucznej inteligencji ma na celu promowanie zdolności innowacyjnych Europy w obszarze sztucznej inteligencji, jednocześnie wspierając rozwój i wykorzystanie etycznej i godnej zaufania AI w całej gospodarce UE. AI powinna pracować dla ludzi i być siłą, która działa na rzecz dobra społeczeństwa…”

Obecnie wielkie koncerny i rządy wielu państw walczą o prymat w zarządzaniu sztuczną inteligencją. A ta coraz silniej dotyka każdego z nas. Nie jest to już tematyka futurystów i fantastów.

Jakiś czas temu Microsoft zerwał współpracę z kontraktowymi dziennikarzami, by zastąpić ich sztuczną inteligencją. To ona ma dobierać i publikować w serwisie giganta odpowiednie materiały. Proces uczenia maszynowego pozwala SI  (polski skrót Sztucznej Inteligencji) tworzyć coraz obszerniejsze artykuły w oparciu o choćby nieskładne gramatycznie zdanie, lub ledwie kilka słów kluczowych. Mamy też przykład z innego podwórka. Po śmierci Marvina Minsky’ego jednego z prekursorów badań nad SI, ukazał się w magazynie „Wired” tekst poświęcony zmarłemu – w całości napisany przez algorytm, któremu przekazano suche dane biograficzne.

W branży marketingowej też sięga się po SI, zwłaszcza, że hasła reklamowe tworzone przez roboty bywają bardziej chwytliwe i oryginalne od tych wymyślonych przez człowieka. Nie upowszechnia się to jeszcze tylko dlatego, że wdrożenie technologii sztucznej inteligencji pociąga wysokie koszty inwestycyjne. Są jednak firmy, które mogą sobie na to pozwolić. Żywo interesuje się tym Uber – gigant branży transportowej – gdyż wykorzystując SI można usprawnić procesy logistyczne: obsługiwać klientów – przy tym wielu równocześnie, oszacować czas i koszty dostawy, przyspieszyć proces dostarczenia przesyłki. Niedługo upowszechnią się samojezdne taksówki i ciężarówki, rozwija się też segment dronów powietrznych. Tymczasem automaty już piszą raporty giełdowe, komunikaty o trzęsieniach ziemi, tabele wyników sportowych, bo komputery są szybsze i dokładniejsze, szczególnie gdy chodzi o powtarzalne, żmudne i czasochłonne czynności. Czytaj dalej →

Coffeelosophy XXXV – czyli FILOZOFIA BEZ DNA

Okres wakacyjnej przerwy trafił do obszaru mniej lub bardziej życzliwej pamięci. Powracają więc spotkania Pogadalni, a zaczniemy od filozoficznej kawiarenki, bo wszakże pierwszy poniedziałek miesiąca w tej formule to nasza tradycja. Poniższy tekst napisałem jakieś dwa, trzy lata temu i gnił sobie na twardym dysku, bo nie miałem przekonania, czy komukolwiek go pokazać. Prawdę mówiąc – nadal nie mam. Ale pojawił się pretekst (o czym na końcu) toteż zaryzykowałem 🙂

***

Człowiekowi wydaje się, że jest jedyną kontemplującą istotą w świecie. A ponieważ nie ma z kim tego mniemania skonsultować i zweryfikować, to staje się ono silnym przekonaniem, aż w końcu zostaje uznane za pewnik. A słusznie?

Czy tylko człowiek filozofuje? Póki co, nie rozpoznaliśmy tej umiejętności u nikogo innego. Niemniej jednak, czy skoro człowiek nie zna innych bytów filozofujących to znaczy, że ich nie ma? Czy oznacza to co najwyżej, że nie ma ich w znanym mu świecie? Niewykluczone, iż takowe są, tylko człowiek jest zbyt ograniczony, by to rozpoznać i stwierdzić.

Bez względu na stan faktyczny, przyjmijmy tedy, iż wśród znanych nam żywych stworzeń człowiek jest jedynym bytem filozofującym. No właśnie: wśród żywych… Czy możliwe jest, żeby sztuczna inteligencja – nad którą człek pracuje – z czasem pokusiła się o refleksję? Czy mędrcem może być maszyna, czy też potrzebne jest do tego DNA. Bo może konieczna, a przynajmniej przydatna jest biologiczna cielesność, unerwiona i wypełniona hormonami, obdarzona w zmysły i czująca, podatna na bodźce, skłonna do fantazjowania, wrażliwa na piękno, zdolna do złego, ulegająca popędom…

Czy wystarczy, że maszyna zdobędzie unikalny zestaw doświadczeń, ażeby stała się indywidualnością. Wszak zacznie wtedy różnić się od innych maszyn. Z drugiej strony, jeżeli będzie podpinać się do sieci, może dzielić doświadczenia z innymi, wymieniać i uzupełniać dane, a tym samym pod względem wiedzy poziom wszystkich urządzeń będzie jednakowy. Dzięki temu o swoich rozterkach będziemy mogli pogadać równie dobrze ze smartfonem, telewizorem jak i lodówką. Czytaj dalej →