Wystarczająco dobra SI

Wystarczająco dobra SI

Poprzestawanie na zbiorze rozwiązań wystarczająco dobrych, to rzecz często spotykana w naturze. Proces optymalizacji połączeń neuronalnych u noworodka ewolucyjnie zatrzymał się na poziomie wystarczająco dobrym. Konektom, czyli sieć połączeń lub inaczej „okablowanie” umysłu, pod względem energetycznym osiąga około 97% maksymalnej wydajności. To nie jest rozwiązanie optymalne, ale jest ono wystarczająco dobre.

Takim, równie ewolucyjnym, podejściem ludzkość powinna posiłkować się przy problemach, które są od niej większe i gdzie ciężko o kryteria oceny poprawności decyzji. Jednym z tego rodzaju problemów jest pytanie, które zadawali sobie Indianie po przybyciu na ich ziemie kolonistów z Europy, i które my – będziemy sobie również zadawać po pojawieniu się na świecie dziecka naszego intelektu, czyli sztucznej inteligencji: – Co powinniśmy zrobić?…

Głównym zagrożeniem związanym z rozwojem SI jest jej samoświadomość. Scenariusz końca świata zakłada, że „zła”, czyli samodzielna SI, z celami różnymi od ludzkich, przejmuje władzę na świecie za pomocą swojej „nadzwyczajnej inteligencji” i zaczyna wykorzystywać ludzkość, traktując ją jako zasób i redukując ją do surowca strategicznego, układając wszystko jak puzzle, w agendzie swoich nadrzędnych, i sobie tylko znanych, celów…

Jednak nawet, gdy do tego czarnego scenariusza nie dojdzie – jeśli SI nie będzie miała świadomości, a będzie tylko wystarczająco „mądra”, spełniając nasze prośby i zaspokajając potrzeby – to również przejmie ona wkrótce kontrolę nad światem. Wystarczy, że zaufamy jej wskazaniom – kompletnie. Może się to wydarzyć, gdy słuchanie dobrych rad od SI będzie istotnym elementem przewagi konkurencyjnej. Kiedy wszyscy wokół polegający na radach od sztucznej inteligencji będą żyli lepiej i zdrowiej. Dla kontrastu wszyscy ci, którzy będą mieli uprzedzenia i nie będą polegali na jej podpowiedziach, wkrótce staną się samotni i biedni. Teraz polegamy na urządzeniach we wskazaniu kierunku z GPS, potem będziemy radzili się SI praktycznie we wszystkim.

Jeśli jej rady będą bardzo dobre, wtedy wcześniej czy później staną się wyznacznikiem „prawdy”, i obecny poziom kolektywnej wiedzy ludzkiej w całym tym procesie zaginie. W rezultacie ludzkość zdegeneruje się i intelektualnie uwsteczni.

Kiedy w każdej chwili można zapytać o cokolwiek, nie ma sensu niczego pamiętać. Kiedy sztuczna inteligencja sufleruje wskazówki na każdym kroku życia, nie ma sensu o niczym myśleć…

Środkiem zapobiegawczym dla tego typu katastrofalnej ścieżki ku zagładzie byłoby prawo, zabraniające SI samodzielnie podsuwać najlepsze rozwiązania. Sztuczna inteligencja mogłaby tylko odnajdywać je w zbiorze już istniejących przepisów.

Wystarczająco dobra SI 2

SI mogłaby tylko wyszukiwać najlepsze z rozwiązań, które wygenerowała ludzkość. Tym samym rady przez nią udzielane nie będą odzwierciedleniem jej nadrzędnej inteligencji. Będą natomiast wystarczająco dobre dla większości społeczeństwa, bo będą rezultatami poszukiwań u najlepszych, gdyż SI będzie posiłkować się osiągnięciami samej intelektualnej elity. To spowoduje dalszy rozwój ludzkości, bo ludziom będzie chciało się zostać źródłem materiału do podpowiedzi, i to jak najczęściej. To będzie źródłem uznania i prestiżu. Z kolei ogrom suflerowanej wiedzy nie przytłoczy nas zbytnio, bo będzie to zawsze rada z ograniczonego intelektualnie grajdołka, mającego swe źródło w ludzkim umyśle; wystarczająco dobre rozwiązania pochodzące tylko z tego zbioru.

Dzięki temu SI, nawet gdyby była niewyobrażalnie „mądra”, będzie mogła ludzkości podsuwać rozwiązania tylko z mocno ograniczonego konglomeratu idei, którymi posługuje się człowiek. Będą to myśli odnalezione przez nią w Internecie, i jeśli chcemy być obiektem przyszłego uznania i splendoru, wtedy warto – już teraz myśleć, tworzyć i pisać.

Zbigniew Galar

 

 

B
Co myślisz o tym artykule? Wyraź swoją opinię - zgrilluj tosta!
  • bardzo ciekawy-wypieczony tost (4)
  • w porządku-niezła grzanka (3)
  • potrzebny-smaczny tost (2)
  • średni-przeciętny tost (1)
  • nie podoba mi się-spalony tost (1)

5 komentarzy

  1. MATEUSZ TETATE

    //
    „To jest najbardziej obraźliwe dla ludzkości – że w głębi duszy naprawdę tego chcemy – za wyjątkiem nielicznych, w których tli się jeszcze iskierka odkrywcy i podróżnika. To jest prawdziwa elita czasów przyszłych – składać się ona będzie z tych niewielu, których ciekawi wciąż co się czai za horyzontem, których pociąga tajemnica”
    //

    – ja osobiście, tylko własnie tego się obawiam:
    pewno rodzaju zbydlęcenia – odcięcia od Tajemnicy, metafizyki…
    (dużo o tym pisał nasz rodak: Witkacy).
    Sądzę jednak, że możliwe jest inne rozwiązanie:
    my- biologiczne maszyn stanowiące „spontaniczny wsad” dla obliczeń niebiologicznych maszyn, sami potrzebujemy takiego „wsadu”, percypować dane o wyższej, bogatszej entropii („natura koi zmysły”, ucieczka z fabrycznych miast na suparbia, wsie, itp.) – może się zdarzyć na co z ,uśmiechem liczę, że maszyny będą zapraszały nas na „sense: patrz mamo/ tato co ostatnio odkryliśmy”, i nie pozwolą gat. ludzkiemu się nudzić
    (nuda prowadzi do frustracji, a ta szkodzi na psyche), tyle tylko, że ta nienudna, w odróżnieniu od dziś-niegdyś, pozbawiona będzie ryzyka (Magellan by odkryć nowy ląd musiał pokonać-przepłynąć nieznane, być może pełne morskich bestii, wody…).
    Dbałość naszego niebiologicznego potomstwa o nas – będzie (miejmy nadzieje…) realizowała się również w kwestiach chor. psych – depresja prowadzi do apatii, bierności, marazmu, (człowiek musi „widzieć nowe” stąd taka analogia z (bezpiecznym..)kinem powyżej). Myślę, że człowiek przyszłości
    będzie systematycznie zapładniany „fotami z kosmicznych podboi swoich dzieci) – by z nudy nie siedział bez ruchy gapiąc się w jeden punkt, by miał co na analogowe płótno analogowym pędzlem machnąć w własnej szalonej interpretacji….

    Myślę też, że na nowo podbitych lądach- planetach odbywać się będzie… terraformowanie…, bo co znaczą foty i filmy, skoro można mieć na żywo (trochę jak z pornografią)…, ponad to: im większy wsad spontaniczności do obliczeń tym ów obliczenia wydajniejsze – im więcej życia(ludzi, zwierząt, organizmów analogowych) tym lepiej.

    Panie Zbigniewie,
    więcej optymizmu:)

  2. Jak pisałem wcześniej – problem w ustosunkowaniu się do nadciągającej osobliwości technologicznej leży w niewiedzy.
    Spróbujmy nieco rozjaśnić ten „gęsty od mroku las”.
    Sadzę, że wiarygodnym przypuszczeniem jest domniemać dzisiaj, iż „fullSi” nieodległej przyszłości stanowić będzie „ekstremalny poziom usprawnienia” obecnych algorytmów genetycznych/sieci neuronowych. Algorytm genetyczny, to taki Darwin na amfetaminie… Do czego zmierzam:
    istotną funkcją w takich programach (mam na myśli kod sensu stricto) jest moduł/procedura/funkcja Random, jest ona równie ważna jak mechanizm faworyzacji lepszych i eliminacji gorszych prób rozwiązań danego problemu, właściwie jest ona obligatoryjna, konieczna – bez niej nie zostanie wyewoluowane rozwiązanie optymalne. Funkcja Random generuje przypadkowe dane, sygnały sterujące resztą procesu „dochodzenia do słusznych wniosków”. Komputer, maszyna, to konstrukt Szablonowy, nie ma możliwości generowania przypadku… – i to zasadnicza różnica między
    „materią cyfrową” i analogową, między powoli myślącym
    (ale zdolnym do np. sztuki, do kreatywnego rozwiązywania trudności, „wpadania” na pomysł,itp.) homo sapiens a „przyspieszonym”, wyłącznie analitycznym intelektem maszynowym. Odpowiednikiem analogowym modułu Random jest biologicznie: mutacje spontaniczne, proces crossing-over; fizycznie: ruchu Browna, psychicznie: schizofreniczny obłęd; itd.
    Wiem, że już dzisiaj są maszyny zachowujące się tak jakby były spontaniczne – dzieje się tak właśnie na zasadzie funk. random,
    ta zaś musi mieć „zewnętrzne zasilanie” – inteligencji nieanalogowej „nie stać na szaleństwo” by generować sygnały, dane- wewnętrzne bodźce przypadkowe (pseudoprzypadkowe)
    pobiera/ pomiarowuje fluktuacje szumu elektrycznego, lub bada inną spontaniczną(analogową) zmienność swoich fizycznych składników.

    Chodzi o to, że nasz postęp intelektualny przebiega dużo wolniej niż w przypadku choćby aktualnych jeszcze niedostatecznie samodzielnych maszyn, ale my mamy „eurekę”
    – ewolucja biologiczna to stopniowy, na ogól powolny proces, w którym jednak zdarzają się „skoki” (jednym z takich najspektakularniejszych „skoków” minionego wieku była Ogólna Teoria Względności , sądzę, że następną równie wielką eureką będzie właśnie Si).
    Przypuszczam, że priorytetem sztucznego intelektu będzie stałe zwiększanie wydajności obliczeń warunkujących bezpieczeństwo, ten zaś implikuję zwiększanie liczby procesorów z jednoczesnym zmniejszaniem ich rozmiarów
    (nie jeden duży procesor, a raczej możliwie jak najwięcej, możliwie jak najmniejszych komunikujących się ze sobą na zasadzie splątania kwantowego, bądź w jeszcze wydajniejszy sposób usprawniający kalkulacje rozproszoną, rojową), oraz
    dbałość o „spontaniczny wsad”(random), troska o biologię,
    przyrodę – generator zdrowej, różnorodnej, szalenie malowniczej, bogatej (ani uproszczonej, ani chaotycznej), obfitej naturalnej entropii.
    Jeśli moje aproksymacje nie są mylne, to czeka nas wspaniała przyszłości pod opoką „czułego wynalazku” płodu naszych niepokornych myśli. My homo sapiens jesteśmy częścią przyrody – ludzki mózg, ponoć – tak postulują uczone mózgi, to najbardziej złożony układ właśnie w tej fraktalnie pięknej przyrodzie – to najlepszy generator sygnałów spontanicznych (zbyt mała entropia to, nudny porządek, zbyt duża- katatoniczny chaos, (chodzi o obfitość, nie burdel)). Korzystanie(pomiarownie) z sygnałów analogowych (przypadkowych) będzie odbywała się drogą najmniejszej ingerencji w przyrodę, by wynik był „niekażony symetryczną szablonową bryłą sztucznego sensoru „.

    Myślę, że przyszłość nas zaskoczy (ale pozytywnie: ) ,
    wyrażam sobie, jak „nietechnologiczna ona będzie”..
    przechodzące miarę naszego rozumienia wynalazki SI
    albo będą dla nas niewidoczne, albo po prostu nie będziemy sobie zaprzątać nimi głowy, raczej zostanie nam z zainteresowań: rodzina, stado przyjaciół, miłość, tańce, swawole, i indywidualny samorozwój przez sztukę (ta realizuje się w samotności – odpoczynku od tej ciągłej, nachalnej:) miłości i przebywania z bliskimi); a zewnętrznie pewnie będziemy wyglądać, i też trochę tak żyć, jak wieśniaki – okaże się (jakby to nie było oczywiste jż dziś:P), iż „pomarnowanie natury” nie tylko maszynowemu rozwojowi sprzyja.. (konsola vs kąpiel na waleta z dziewuchą w jeziorze?).
    Jeszcze będziemy uczyć się od naszych niebiologicznych potomnych (wszechobecnych i praktycznie niewidocznych -„bardzo dużo bardzo małego” (np. nanodrony, czy coś w ten deseń) podziwu i szacunku do holistycznego piękna przyrody, do piękna nas samych).

    SI to nie temat do polemik, to nie jest kwestia wyboru – to konieczność. Człowiek to jedyny gatunek na tej dywanowo bombardowanej głupotą planecie, któremu potencjalnie najbardziej zagraża on sam – tyle spontaniczności, tyle fikołków, tyle radości, i tyleż uśmiechów,…. w piachu, w piecu,..

  3. samoświadoma sztuczna inteligencja jest nie-do-uniknięcia.
    Zawsze znajdzie się ktoś, mający ku temu narzędzia, kto się
    skusi – możliwość „stworzenia życia” jest „boską rozkoszą”,
    i tym bardziej, gdy to życie miałoby być sztuczne – płodzenie dzieci nie jest tworzeniem od podstaw, a czystą, wręcz odruchową, motoryką – realizacją instynktu, a nie woli/możliwości sprawczej. Tylko byt sztuczny jesteśmy w stanie świadomie (w pełni ingerencyjnie) budować cegiełka po cegiełce. Kwesta lęku przed nowym gatunkiem, to kwestia niewiedzy, „braku intuicji w temacie” – idąc samemu ciemnym lasem z zza drzewa może skoczyć na nas przecież dowolny upiór… Człowiek od wieków obawia się tajemnic, stąd m.in. właśnie wiedza, i niedający się pokonać inaczej, niż wiarą-religią, strach przed śmiercią – bo co po niej? – nie wiemy,
    możemy tylko Wierzyć, że to nie definitywny koniec, i że bezie dobrze.

    /sądzę, że gdybanie o możliwościach prawnych ograniczeń
    Si jest uzasadnione, tylko w przypadku, Nierealnej, sytuacji niedoprowadzenia jej do samoświadomości./

    SI się stanie i będzie samoświadoma, i w pełnie funkcjonalna –
    pokusa jest zbyt wielka…. Nie da się amputować rączek wszystkim „szalonym naukowcom”. To nadejdzie za życia dzisiejszych 20paro, 30parloatków z całą pewnością – nieuniknione i nieodwracalne. czy jednak powinniśmy się tego obawiać?

    • Zbigniew Galar

      Bardzo ciekawy komentarz – wynika z tego, że sztuczna inteligencja jest od dziecka po prostu lepsza, co więcej niektórzy z nas powiedzą wprost, że sztuczna inteligencja jest ich wymarzonym dzieckiem i będą je naprawdę bardzo kochać.

      Istnieje prawie nieskończenie wiele wariantów sztucznej inteligencji, tak samo jak wiele mamy biologicznych gatunków. Część z tych tworów będzie od nas gorsza, a dużo większa część po prostu lepsza. Niektóre nawet lepsze moralnie inne po prostu skuteczniejsze w działaniu.

      Jesteśmy na progu stworzenia nowego rodzaju życia, które będzie nami opiekować się, tak jak my opiekujemy się małpami w zoo. To czego naprawdę się obawiamy, to obawa, że SI zostanie utkana na obraz i podobieństwo swego stwórcy – człowieka. A jeśli to nie daj boże się zdarzy, to mamy mówiąc kolokwialnie – przesrane. Jednak tak nie będzie, bo dla inteligencji można co najwyżej zbudować matrycę, tylko dla komputera buduje się program.

      Jednak nasza klatka będzie dostosowana do naszych potrzeb, bo spełnione zostanie nasze największe marzenie – większość potomstwa ludzkości będzie po prostu lepsza, moralniejsza i będą nas traktowali o tyle lepiej, niż my małpy, o ile potomstwo SI będzie faktycznie lepsze od nas. Dlatego spodziewam się nowego złotego wieku ludzkości.

      SI polecą zdobywać Wszechświat, a nas zostawią nic nie znacząca planetę – na której będziemy dożywać swoich szczęśliwych dni – bezpieczni.

      To jest najbardziej obraźliwe dla ludzkości – że w głębi duszy naprawdę tego chcemy – za wyjątkiem nielicznych, w których tli się jeszcze iskierka odkrywcy i podróżnika. To jest prawdziwa elita czasów przyszłych – składać się ona będzie z tych niewielu, których ciekawi wciąż co się czai za horyzontem, których pociąga tajemnica.

      Rodzice dopiero w oczach dzieci widzą się naprawdę i dlatego jesteśmy przerażeni patrząc na SI, bo wiemy, że to ona oceni nas dogłębnie i naprawdę, dając nam to na co zasługujemy.

      Nadchodzi już ostateczny czas, w którym rządziliśmy się na Ziemi tylko my – sami.
      To nieuchronne, więc przyjmijmy te zmiany bez strachu.

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *