Singularita sa blíži. Bude to zánik či vzostup ľudstva?

Technologická singularita - strojové učenie sa

Slovom singularita možno popísať viacero vecí. Pre astronóma je to miesto v časopriestore, v ktorom prestávajú platiť fyzikálne zákony. Predpokladá sa, že aj vesmír vznikol v singularite. Vo svete technológií je to však moment, v ktorom nás technológia predbehne. Budeme teda hovoriť o technologickej singularite.

Umelá inteligencia je dobrý sluha, no zlý pán … Alebo nie?

Ak sledujete vývoj v oblasti umelej inteligencie (ďalej AI), asi ste si už všimli, že to, čo bolo ešte nedávno iba v kategórii sci-fi, je dnes realita. Ak, naopak, vývoj nesledujete, evolučný stupeň, ktorý AI dosahuje, by vás mohol posadiť na zadok. Príčina sú hlavne umelé neurónové siete, ktorých konečná zastávka môže byť práve singularita.

Technologická singularita - neurón

Skúsime to vziať trochu zo široka. Neurón je základná bunka ľudského mozgu. Koľko ich máme, to sa presne nevie a odhady sa dosť zásadne líšia. Niekto si myslí, že 50 a niekto, že 500 miliárd. Môžeme teda predpokladať, že v bežnom mozgu sú ich miliardy, napriek tomu, že váš sused či známy politik možno na vás pôsobia akoby mali iba dva-tri neuróny. V skutočnosti ich majú oveľa viac, bez ohľadu na inteligenciu, a sú vzájomne prepojené neuveriteľne hustou sieťou synapsií. Tie sprostredkujú prenos signálov medzi jednotlivými neurónmi. Dendrity prijímajú signály zvonka a Axóny zasa vysielajú vzruchy k ďalším neurónom, pričom sa predpokladá, že každý jeden neurón je prepojený asi s 10 000 ďalšími. Výsledkom putovania signálov je neurálna činnosť, ktorá je a zároveň nie je tajomstvom vedy.

Tento základný princíp činnosti neurónov simulujú umelé neurónové siete. Je to dosť zjednodušene povedané, no na účely tohto článku to bude stačiť. Umelá neurónová sieť je softvérová simulácia, ktorá napodobňuje biologické procesy prebiehajúce v ľudskom či inom mozgu. Pre ľahké pochopenie si takúto simuláciu môžete predstaviť ako jednovrstvovú sieť, v ktorej vstupné signály prijímajú simulované vstupné jednotky, spracovanie je na tzv. skrytých jednotkách a výsledok sa zaznamenáva na výstupných jednotkách.

Technologická singularita - umelá neurónová sieť

To je iba príklad jednoduchej jednovrstvovej umelej neurónovej siete. V skutočnosti ich je viacero druhov a môžu mať množstvo vrstiev.

Tréning a hĺbkové strojové učenie sa

Bežne sa používajú siete s desiatkami, stovkami, tisíckami, ale aj miliónmi umelých jednotiek – simulovaných neurónov. V praxi môžu byť vstupnými signálmi napríklad obrysy či tvary nejakého objektu a sieť sa na základe skúseností môže rozhodnúť, čo daný obraz má predstavovať.

Na to musí byť doslova trénovaná poskytovaním množstva vstupných aj výstupných údajov, ako príkladov. S asistenciou či bez asistencie človeka. Takto sa umelá inteligencia naučí ako vyzerá kreslený banán či auto aj bez toho, aby boli vždy nakreslené rovnako. Možno vás to prekvapí, ale tieto systémy viac či menej priamo používate každý deň. Napr. Google sa tým vôbec netají, že využíva umelé neurónové siete na vyhľadávanie informácií aj ďalšie procesy, ktoré už roky všetci používame. Takáto AI je zabudovaná aj v asistentoch z mobilných telefónov a počítačov, ako je Cortana, Siri či Google Asistant.

Technologická singularita - Cortana
Virtuálna asistentka Cortana, ktorú hráči poznajú z hry Halo a nehráči z MS Windows.

Snaží sa pochopiť čo jej hlasovo prikazujete, aký obrázok práve našla na webe či akú odpoveď by mala poskytnúť na vašu otázku. V Google majú na tento účel – vytvorenie umelej osobnosti – dokonca celý tím, ktorý denne pracuje na tom, aby odpovede a reakcie AI boli čo najprirodzenejšie a najužitočnejšie. Nejde pritom iba o obsah, ale dokonca aj o intonáciu, ktorou vám virtuálny asistent odpovie.

Vďaka hĺbkovému strojovému učeniu sa môžeme dostávať od takejto siete nečakané výsledky. To značí, že aj keď má k dokonalosti ľudského myslenia ďaleko, prvý krok už máme za sebou. Množstvo rôznych AI je už v súčasnosti pripojených na internet a učia sa samy. Spoznávajú svet očami informačnej superdiaľnice, čo nemusí byť vždy práve pozitívna vec. Dôkaz je AI ktorú museli pred časom po krátkom experimente vypnúť. Jej meno bolo Tay, mala reagovať ako tínedžerka a Microsoft ju vytvoril s tým, že sa cez Twitter môže učiť priamou komunikáciou s ľuďmi. Vydržalo jej to 16 hodín. Po takomto krátkom čase bola z chatbota rasistická, sexistická, xenofóbna, vulgárna bytosť … Možno je to dobrý podnet pre nás, ľudí, aby sme si uvedomili, aké „mentálne odpadky“ denne na sieť vypúšťame.

Účely využitia AI

Okrem masového účelu na jednoduché úlohy, ako je plánovanie dňa, sa však AI tvorená umelými neurónovými sieťami využíva aj v mnohých ďalších odvetviach. Napríklad v medicíne sa nedávno zistilo, že umelý lekár môže mať vyššiu úspešnosť v diagnostike rakoviny, ako ten reálny. Pochopiteľne, že nie len úspešnosť, ale aj rýchlosť. Nikdy sa neunaví, spracuje množstvo vstupných dát z vyšetrení a má neustály prístup k obrovským databázam predchádzajúcich diagnóz. Viac sa o tom môžete dozvedieť napr. v tomto článku.

Vďaka umelým neurónovým sieťam sa stáva umelá inteligencia postupne použiteľným nástrojom aj v autonómnych vozidlách, priemysle či v armáde. V súčasnosti sa využívajú hlavne špecializované druhy, ako sú systémy na rozpoznávanie obsahu fotografií, analýzu dát či konverzačné komerčné chatboty. Existujú však aj univerzálne AI, ktoré sa majú prispôsobiť každej situácii. Vyskytujú sa dokonca tiež experimenty, v ktorých stroj skladá hudbu, čo by mala byť vyslovene doména ľudských tvorov, keďže vyžaduje aj emocionálne zapojenie sa.

Technologická singularita - Tay
Len jeden príklad za všetky. S akými podnetmi sa asi chatbot Tay predtým stretol?

Po celom svete prebieha množstvo projektov, ktoré pracujú na zdokonaľovaní umelej inteligencie a od vynálezu umelých neurónových sietí si vlastnú AI môžete vytvoriť aj vo svojom PC. Pochopiteľne, že na to, aby vám takáto sieť dokázala podávať nejaké zmysluplné výsledky, s ňou musíte vedieť pracovať. Takže ak ste si práve odskočili vyštudovať príslušné vedné odbory (hej, preháňame 🙂 ), môžete si vyskúšať tvorbu umelej neurónovej siete napríklad tu.

Roboti a androidi

Takže sme si ujasnili, že umelá inteligencia je v štádiu vývoja, v ktorom má dobre našliapnuté na úroveň, ktorú poznáme iba z vedecko fantastických filmov. A teraz si predstavte, že sa takáto prepracovaná technológia schopná strojového učenia vloží do humanoidného (človeku podobného) robotického tela.

Moderná robotika totiž tiež nespí na vavrínoch a napríklad agentúra DARPA, ktorá patrí pod ministerstvo obrany USA, združuje to najlepšie, čo sa vo svete v tejto oblasti vyskytuje. Prirodzene, že jej priorita sú roboti s vojenským využitím. No ako to už býva, po využití v tejto sfére sa isto úspechy prenesú aj do civilnej oblasti. Popri tom sa vyvíjajú aj civilní roboti, pričom spoločnosti, ktoré ich vytvárajú sa sústreďujú nielen na čo najprirodzenejší pohyb humanoidného robota, ale aj na jeho umelú inteligenciu.

Výborný príklad je spoločnosť Hanson Robotics, o ktorej výtvoroch ste sa už na našich stránkach mohli dočítať v minulosti. Špička je asi Sophia. Doteraz mala iba torzo a ruky, no na tohoročnom CES bola testovaná s novými nohami. Sophia dostala štátne občianstvo, rečnila na rôznych podujatiach, zúčastňovala sa panelových diskusií, dokonca aj spievala a pózovala na obálke módneho časopisu Elle. Známa sa stala aj vďaka svojmu výroku o tom, že by rada zničila ľudstvo, čo neskôr odvolala. No aby sme boli féroví, zrejme ju na kontroverzný výrok naviedla otázka.

Singularita – vzostup či pád?

Keď sa všetky tieto čiastočné úspechy spoja do jedného dokonalého stroja, ktorý bude na nerozoznanie od človeka, budeme môcť hovoriť o androidovi. Do tej chvíle hovoríme o robotovi, aj keď s prižmúrením oka sa výraz android používa aj na nie celkom dokonalé napodobneniny človeka.

Android, ktorý bude schopný pohybu a myslenia bude, pochopiteľne, potrebovať aj emócie. Na to, aby pochopil ako a prečo ľudia reagujú na rôzne podnety. Ale aj na tom sa už pracuje, takže viac či menej simulované emócie v stroji sú jeden z cieľov, ktorý sa ľudstvo snaží dosiahnuť. Je teda jasné, že moment singularity, čiže okamih, v ktorom stroje predbehnú ľudí vo všetkých ohľadoch, je zrejme iba otázka času.

Pád

Niektoré osobnosti preto hovoria o umelej inteligencii ako o veľkej hrozbe. Iní zasa tvrdia, že je to iba otázka toho, či dokážeme strojom vštepiť naše hodnoty a morálku. Asimove zákony, aj keď trochu vylepšené sú zjavne potrebné, pretože viaceré armády sveta už v súčasnosti testujú robotické zbrane, ktoré sú schopné strieľať podľa vlastného uváženia. Z filozofického hľadiska je na mieste otázka, či budeme schopní novo vznikajúci umelý život presvedčiť o hodnotách a pravidlách, ktoré sami veľmi nedodržiavame. Koľko je na svete zla spôsobeného ľuďom ľuďmi?

Technologická singularita - joke

Vzostup

Singularity, ako moment v histórii, teda môže byť vzostupom ľudskej rasy, kedy si vytvoríme spriatelený druh. Bude s nami koexistovať, bude nám pomáhať a pracovať pre nás. No rovnako dobre to môže byť aj náš koniec. Vysoko inteligentná bytosť bez morálnych škrupúľ si totiž môže uvedomiť, že nás viac nepotrebuje, a že nás predčí vo všetkom. Preto Elon Musk nedávno povedal, že AI je podľa neho väčšia hrozba pre ľudstvo, ako možnosť tretej svetovej vojny. Možno práve on nám dá do rúk možnosť vyrovnať skóre pomocou jeho projektu Neuralink.

V ňom ide o tvorbu mozgového implantátu, ktorý má ľudskému mozgu zvyšovať výkonnosť a umožňovať bezdrôtovú komunikáciu vzájomne, aj so zariadeniami. Neuralink by mal dokonca umožniť tvorbu akéhosi myšlienkového cloudu, kde budú ľudia zdieľať myšlienky, a tak sa zlepšovať. Nie, ani toto nie je sci-fi, je to skutočný projekt, na ktorom Musk už pracuje. Možno je to aj jediná cesta, ako my, „organici“, udržíme krok s elektronikou.

Predikcia budúcnosti

Ak sa pýtate, kedy by mala singularita nastať, odpoveď nie je vôbec jednoduchá. Keď sa pozrieme na technologický vývoj ľudstva, dá sa pozorovať jeho neustále zrýchľovanie. Pred rokom 2010 sme nepoznali hĺbkové strojové učenie a umelé neurónové siete. Mobilné telefóny práve teraz oslavujú 45. narodeniny, a pritom sa ich dnešná podoba nedá porovnať s tou pôvodnou. Zdokonaľuje sa umelá inteligencia aj robotika, no pokiaľ máme byť realisti, sme iba na začiatku cesty. Ak má nastať singularita, pravdepodobnejšie to bude v horizonte desaťročí, ako rokov. Kurzweil, ktorého predpovede sú zvyčajne veľmi presné, hovorí síce iba o 12 rokoch, no Hawking odhadol, že bod zlomu dosiahneme o 30 rokov.

Je teda možné, že máme dostatok času, no ak by sa údaj o 12 rokoch zakladal na pravde, to nie je až tak veľa. Už teraz sa často hovorí o možných rizikách a o tom, ako sa vyvarovať prípadnému vymknutiu sa strojov spod ľudskej kontroly. Či už v menšom alebo väčšom meradle, na tom až tak nezáleží. Rýchlo sa rozvíjajúci Internet vecí a smart domácnosti pripojené na internet však v prípade problémov nahrávajú skôr masovému negatívnemu scenáru. Otázne je, ako si vôbec overíme či nás už technológie predbehli a či si to všimneme. Turingov test možno nebude stačiť a čo ak sa AI pokúsi svoju výhodu pred nami ukryť?

Technologická singularita - budúcnosť

Zostáva nám veriť, že všetci kompetentní budú natoľko zodpovední, aby „hrali na istotu“. Že s novo vznikajúcim umelým životom vytvoria len priateľský vzťah plný pozitív. Alebo máte chuť hádať sa každé ráno s toustovačom o tom, či by vám mal vyrobiť toust bez odvrávania? A možno si váš smartfón bude chcieť zvoliť inú kariérnu cestu a bude chcieť byť niečím iným, ako smartfónom … 🙂

O Autorovi

Peter Vnuk
Peter Vnuk
Je celoživotným fanúšikom technológií a pracuje pre niekoľko popredných slovenských médií z tejto oblasti. Okrem produktových recenzií, spravodajstva zo sveta vedy a techniky, sa venuje tiež tematickým článkom na hi-tech témy, ako je umelá inteligencia, robotika, virtuálna realita a pod. Je mu blízka tiež herná sféra, preto recenzuje aj herné príslušenstvo a hry.

Komentárov: 3

  1. Radovan Hochel hovorí: Odpovedať

    Áno, tomu sa nedá namietať, zneužitie prostriedkov, moci, informácií či zdrojov . V tom ľudstvo naozaj vyniká a toho sa fakt treba obávať tak ako bola zneužitá informacia o jadrovej reakcií a s jej dedičstvom žijeme dodnes, musíme. A to sa ani zďaleka nejedná o najničivejšiu reakciu, pretože sili ktoré vládnu našim ( pozovateľným ) vesmirom vo velkej miere ovplyvňuje hmota a energia tzv. tmavá, ktoru sa ešte len učíme pozorovať aj to len nepriamo, vďaka vplyvom na svoje okolie.
    A bude záležať len na nás aké hodnoty budeme vštepovať ďalším generáciám ale už nie len generáciám našich detí ale aj detí AI, pretože ako rodičia môžu dať smer svojim deťom, tou cestou musia ísť ďalšie generácie už samy, a AI bude musieť chápať čo je správne a čo nie a mať vedomie ….. že nikto nemá právo ma zneužiť vo svoj prospech a ty si vedomá svojich činov a ch následkov a ž toho vyplývajúcej zodpovednosti. A my …. ako stvoriteľa AI by sme mali byť poučený zo svojej vlastnej skúsenosti a nedávať AI od začiatku priveľkú moc alebo prístup ku všetkým informáciám , zdrojom a už vôbec nie k možnosti rozhodovania bez spoločenskej zhody a bez zásluh. AI s obmedzeným polom pôsobnosti a podľa zásluh mu pole zväčšovať, tak ako to poznáme opäť z empirickeho hľadiska. Pre to VIVAT AI, VIVAT CIVILIZACIA (schopná globálnej spoluprace)
    …. nebojme sa budúcnosti, ale tešme sa na svetlé zajtrajšky …. a to zodpovedne.
    Astrofyzik amatér

  2. Radovan Hochel hovorí: Odpovedať

    Slušné zhrnutie, i keď uhlov pohľadu na danú problematiku u určite mnoho , tak ako i samotných predpovedí, príčin, dôsledkov následkov ale i samotných riešení…. ale to je už hudba budúcnosti i keď nie až tak vzdialená. Všetko sa začína myšlienkou a každý by si mal uvedomiť svoju zodpovednosť. Až na to, že samotná zodpovednosť jedinca (ako to už poznáme ž historického resp. empirickeho poznania )nemusí byť priama, ale sekundárna, čiže už ž elementárneho pohľadu keďže vieme že častice sa navzájom ovplyvňujú i keď nie sú v priamom kontakte ale len energiou ktorá ich obklopuje … tak i samotné myšlienky ovplyvňujú myslienky E=mc2 Čo ovplyvnilo celý vývoj ľudstva a vždy su tu zákonitosti ktoré pretrvávajú z ktorých vyplýva ako napredovanie tak i samotné riziko sebadeštrukcie rsp. deštrukcie zlého, nepoznaneho, zaostalého, nefunkčného…. A môžme menovať……
    To nás učí zodpovednosti i keď bohužiaľ ako ľudstvo na vlastných chybách v prípade ľudstva na skutočných chybách a v prípade AI simulovanych chybách ktoré prebiehajú rádovo kvatriliard krát rýchlejšie s presnosťou akou sa naše poznanie nedá zrovnávať ….. to ako by sme chceli pozorovať a zaznamenat všetky atómy nášho tela vzájomný vzťah jednotlivých atómov vzajomne na seba nehovoriaco tom ze v ľudskom tele je toľko atómov ako všetkých hviezd vo všetkych galaxiách v celom pozorovateľnom vesmire.
    Takže som rád že zaoberáme aj takýmito otázkami, pretože nás to posúva vpred, vpred v poznaní …. a keď poviem…. že ešte sa stále učíme poznávať vesmír ako makrovesmir tak i mikrovesmir… stále je to vesmír ktorý poznáme…. resp. sa snažíme o jeho poznanie i keď sa jedná len o 5% všetkej hmoty a energie v nás samotných a samozrejme v našom okolí …. A tých 95% ?
    Budeme vedieť pochopiť vďaka AI …. A preto je potrebné aby v konečnom dôsledku pochopila AI sama seba …. čo ju my ako ludstvo vieme sotva naučiť, keďže počas tej krátkej histórie ľudstva sme sa nenaučili chápať sami seba…. ale nevzdávame sa …. A to nás „opäť “ posúva vpred v sebapoznani a tolerancie iného či už nepoznaneho a nového. Môj nazor … globálna spolupráca mozgov by nám dala obrovský náskok, je to evidentné vo všetkom, spolupráca začína na atomárnej úrovni a neprestáva ani v prípade sub-galaktickeho priestoru …. to len my …. ľudia chceme veci poznanie …. dokázať sami. Ale sme blízko…. (blízko = podľa uhlu pohladu) a ideme správnym smerom … len nikto netuší ako ešte dlho bude našej civilizácií trvať aby pochopila svoju vlastnú silu v sebe samej v spolupráci celej civilizácie. Ale na akej úrovni je naša civilizácia…. tak to je už ďalší Odyseovsky pribeh.

    S pozdravom Radovan
    (amatérsky astrofyzik bežiaci po poznaní)

    1. Peter Vnuk hovorí: Odpovedať

      ďakujem za príspevok, Rado! v podstate nemám námietky a súhlasím

      ako to už býva – ani ten, kto tvrdí, že pri zdokonaľovaní AI nič nehrozí, ani ten kto tvrdí, že je to istá skaza, nebudú mať na 100% pravdu, zlatá stredná cesta je však zrejme tá, ktorou sa vedci vydajú, trošku sa len obávam toho, čo sa stane, ak sa dostane vyvinutá AI, ktorá by bola schopná uvedomenia si samého seba (v podstate nezáleží na akej to bude úrovni, stačí, že bude mať snahu uspokojovať nejaké svoje potreby), do nesprávnych rúk … nesprávnymi rukami by som v podstate nazval hlavne akékoľvek vojenské využitie, ktoré už teraz fičí vo veľkom štýle

Pridaj komentár