Panika? Elon Musk, Steve Wozniak a ďalší vizionári žiadajú OKAMŽITE zastaviť umelú inteligenciu

Signatári otvoreného listu, ako Elon Musk, Emad Mostaque či Steve Wozniak, adresovaného vedcom a odborníkom na vývoj umelej inteligencie žiadajú, aby sa jej vývoj pozastavil na modeli GPT-4

Pod iniciatívu sa podpísalo viac ako tisíc vplyvných osobností a žiadajú zablokovanie ďalšieho vývoja umelej inteligencie (AI), ktorá by bola silnejšia ako model GPT-4, ktorý aktuálne prezentovala spoločnosť OpenAI verejnosti.

V liste žiadajú, aby sa vývoj pozastavil minimálne na pol roka a toto pozastavenie má byť verejné, overiteľné a má zahŕňať všetky kľúčové laboratóriá, ktoré sa vývoju AI venujú.

Prečítaj si tiež: Elon Musk chce umelú inteligenciu, ktorá nebude woke a cenzurovaná ako ChatGPT

Podľa podpísaných už ukázalo viacero výskumov, že systémy AI môžu byť veľkým rizikom pre spoločnosť a ľudstvo. Pod toto tvrdenie sa podpísalo 1 123 signatárov a otvorený list bol zverejnený na serveri Future of Life, ktorý je prevádzkovaný neziskovou organizáciou snažiacou sa bojovať proti globálnym katastrofám a existenciálnym ohrozeniam, ktorým ľudstvo môže čeliť.

V čom je problém?

Je nesporný fakt, že vývoj umelej inteligencie sa od príchodu umelých neurónových sietí neustále zrýchľuje. Historický bod singularity, kedy nás AI kompletne prekoná, teda môže byť oveľa bližšie, než si myslíme. Aktuálne modely už predčia ľudské schopnosti v mnohých ohľadoch. Niektoré z nich dokonca žiadajú, aby boli uznané ako živé bytosti s dušou a vedomím.

Napriek tomu, že odborníci sú presvedčení, že nič také nie je možné a ide len o antropomorfizovanie neživých systémov, obavy z toho, kam tento dynamický vývoj vedie, sú namieste.

Súvisiaci článok: Čoskoro vraj budeš môcť hovoriť so svojou mŕtvou matkou. Digitálna nesmrteľnosť sa blíži vďaka ChatGPT

V otvorenom liste sa preto píše, že riziko zneužitia AI je obrovské a ľudstvo by malo šliapnuť na brzdu.

Vezmite si príklad: Model určený na vývoj nových liekov môžete rovnako ľahko použiť aj na vývoj patogénov.

Tento model dokáže svižne vyvinúť viac ako 40-tisíc patogénov, vrátane VX, čo je najsmrtiacejší nervový plyn všetkých čias, a to za zhruba šesť hodín.

Tento príklad uviedla Future of Life na Twitteri pri predstavení listu verejnosti.

📢 We're calling on AI labs to temporarily pause training powerful models!

Join FLI's call alongside Yoshua Bengio, @stevewoz, @harari_yuval, @elonmusk, @GaryMarcus & over a 1000 others who've signed: https://t.co/3rJBjDXapc

A short 🧵on why we're calling for this – (1/8)

— Future of Life Institute (@FLIxrisk) March 29, 2023

Ľudská spoločnosť už zastavila viacero technológií, ktoré mohli mať na ňu katastrofické vplyvy. Mali by sme to urobiť aj teraz. Užime si dlhé „AI leto“ a neponáhľajme sa nepripravení vstúpiť do obdobia jesene.

AI letom sa v tomto prípade myslí obdobie, kedy už čerpáme z benefitov vývoja a zdokonaľujeme AI systémy pre dobro a využitie všetkých. Future of Life a signatári otvoreného listu žiadajú vyvinúť robustnejšie a ťažšie zneužiteľné systémy AI, čo si však vyžaduje určitý čas.

Trochu zvláštne vyznieva informácia o tom, že iniciatívu podpísal aj Elon Musk po tom, ako vraj chystá vývoj vlastnej AI, ktorá bude slobodnejšia a menej kontrolovaná. Je pritom známy svojím strachom z umelej inteligencie, no toto nie je jediný rozpor, ktorý možno v jeho slovách a skutkoch nájsť.

Požiadali sme o vyjadrenie aj samotnú AI a takýto bol výsledok (nejde o vtip, skutočne nastal výpadok siete a ChatGPT svoju odpoveď nedokončil):

Po opätovnej žiadosti o regeneráciu odpovede, dochádzalo k opakovaným výpadkom, takže sme z četbota súvislú a kompletnú odpoveď, žiaľ, nedostali. Obavy vizionárov však potvrdil.

Ak ťa bavíme, klikni na tlačidlo a kúp nám pivo za 2€:

Staň sa súčasťou aktívnej komunity TechGuru SK/CZ na Facebooku a na Instagrame.

Nájdeš nás aj na YouTube

O autorovi

Peter Vnuk

Je celoživotným fanúšikom technológií a pracuje pre niekoľko popredných slovenských médií z tejto oblasti. Okrem produktových recenzií, spravodajstva zo sveta vedy a techniky, sa venuje tiež tematickým článkom na hi-tech témy, ako je umelá inteligencia, robotika, virtuálna realita a pod. Je mu blízka tiež herná sféra, preto recenzuje aj herné príslušenstvo a hry.