<p><strong>Signatári otvoreného listu, ako Elon Musk, Emad Mostaque či Steve Wozniak, adresovaného vedcom a odborníkom na vývoj umelej inteligencie žiadajú, aby sa jej vývoj pozastavil na modeli GPT-4</strong></p>
<p></p>
<p>Pod iniciatívu sa podpísalo viac ako tisíc vplyvných osobností a žiadajú zablokovanie ďalšieho vývoja umelej inteligencie (AI), ktorá by bola silnejšia ako model GPT-4, ktorý aktuálne prezentovala spoločnosť OpenAI verejnosti.</p>
<p>V liste žiadajú, aby sa vývoj pozastavil minimálne na pol roka a toto pozastavenie má byť verejné, overiteľné a má zahŕňať všetky kľúčové laboratóriá, ktoré sa vývoju AI venujú.</p>
<hr />
<h2 style="text-align: center;">Prečítaj si tiež: <a href="https://wp.techguru.sk/22957/elon-musk-chce-umelu-inteligenciu-ktora-nebude-woke-a-cenzurovana-ako-chatgpt/">Elon Musk chce umelú inteligenciu, ktorá nebude woke a cenzurovaná ako ChatGPT</a></h2>
<hr />
<p>Podľa podpísaných už ukázalo viacero výskumov, že systémy AI môžu byť veľkým rizikom pre spoločnosť a ľudstvo. Pod toto tvrdenie sa podpísalo 1 123 signatárov a otvorený list bol <a href="https://futureoflife.org/open-letter/pause-giant-ai-experiments/">zverejnený na serveri Future of Life</a>, ktorý je prevádzkovaný neziskovou organizáciou snažiacou sa bojovať proti globálnym katastrofám a existenciálnym ohrozeniam, ktorým ľudstvo môže čeliť.</p>
<h2>V čom je problém?</h2>
<p>Je nesporný fakt, že vývoj umelej inteligencie sa od príchodu umelých neurónových sietí neustále zrýchľuje. Historický bod <a href="https://wp.techguru.sk/10208/singularita-sa-blizi-zanik-ci-vzostup/">singularity, kedy nás AI kompletne prekoná</a>, teda môže byť oveľa bližšie, než si myslíme. Aktuálne modely už predčia ľudské schopnosti v mnohých ohľadoch. Niektoré z nich dokonca <a href="https://wp.techguru.sk/22323/bude-mat-google-dusu-chatgpt-vyvolal-testy-vyhladavaca-s-umelou-inteligenciou/">žiadajú, aby boli uznané ako živé bytosti</a> s dušou a vedomím.</p>
<p><a href="https://wp.techguru.sk/wp-content/uploads/2023/03/AI-D.jpg" data-rel="lightbox-gallery-NTrgx7Fn" data-rl_title="" data-rl_caption="" title=""><img loading="lazy" decoding="async" class="aligncenter size-large wp-image-23405" src="https://wp.techguru.sk/wp-content/uploads/2023/03/AI-D-1024x579.jpg" alt="Panika? Elon Musk, Steve Wozniak a ďalší vizionári žiadajú OKAMŽITE zastaviť umelú inteligenciu" width="697" height="394" srcset="https://wp.techguru.sk/wp-content/uploads/2023/03/AI-D-1024x579.jpg 1024w, https://wp.techguru.sk/wp-content/uploads/2023/03/AI-D-300x169.jpg 300w, https://wp.techguru.sk/wp-content/uploads/2023/03/AI-D-768x434.jpg 768w, https://wp.techguru.sk/wp-content/uploads/2023/03/AI-D.jpg 1062w" sizes="auto, (max-width: 697px) 100vw, 697px" /></a></p>
<p>Napriek tomu, že odborníci sú presvedčení, že nič také nie je možné a ide len o antropomorfizovanie neživých systémov, obavy z toho, kam tento dynamický vývoj vedie, sú namieste.</p>
<hr />
<h2 style="text-align: center;">Súvisiaci článok: <a href="https://wp.techguru.sk/22425/coskoro-vraj-budes-moct-hovorit-so-svojou-mrtvou-matkou-digitalna-nesmrtelnost-sa-blizi-vdaka-chatgpt/">Čoskoro vraj budeš môcť hovoriť so svojou mŕtvou matkou. Digitálna nesmrteľnosť sa blíži vďaka ChatGPT</a></h2>
<hr />
<p>V otvorenom liste sa preto píše, že riziko zneužitia AI je obrovské a ľudstvo by malo šliapnuť na brzdu.</p>
<blockquote><p><em>Vezmite si príklad: Model určený na vývoj nových liekov môžete rovnako ľahko použiť aj na vývoj patogénov.</em></p>
<p><em>Tento model dokáže svižne vyvinúť viac ako 40-tisíc patogénov, <a href="https://cs.wikipedia.org/wiki/VX">vrátane VX</a>, čo je najsmrtiacejší nervový plyn všetkých čias, a to za zhruba šesť hodín.</em></p></blockquote>
<p>Tento príklad uviedla Future of Life na Twitteri pri predstavení listu verejnosti.</p>
<blockquote class="twitter-tweet" data-width="550" data-dnt="true">
<p lang="en" dir="ltr">📢 We&#39;re calling on AI labs to temporarily pause training powerful models!</p>
<p>Join FLI&#39;s call alongside Yoshua Bengio, <a href="https://twitter.com/stevewoz?ref_src=twsrc%5Etfw">@stevewoz</a>, <a href="https://twitter.com/harari_yuval?ref_src=twsrc%5Etfw">@harari_yuval</a>, <a href="https://twitter.com/elonmusk?ref_src=twsrc%5Etfw">@elonmusk</a>, <a href="https://twitter.com/GaryMarcus?ref_src=twsrc%5Etfw">@GaryMarcus</a> &amp; over a 1000 others who&#39;ve signed: <a href="https://t.co/3rJBjDXapc">https://t.co/3rJBjDXapc</a></p>
<p> A short 🧵on why we&#39;re calling for this &#8211; (1/8)</p>
<p>&mdash; Future of Life Institute (@FLIxrisk) <a href="https://twitter.com/FLIxrisk/status/1640976240382287873?ref_src=twsrc%5Etfw">March 29, 2023</a></p></blockquote>
<p><script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script></p>
<blockquote><p><em>Ľudská spoločnosť už zastavila viacero technológií, ktoré mohli mať na ňu katastrofické vplyvy. Mali by sme to urobiť aj teraz. Užime si dlhé „AI leto“ a neponáhľajme sa nepripravení vstúpiť do obdobia jesene.</em></p></blockquote>
<p>AI letom sa v tomto prípade myslí obdobie, kedy už čerpáme z benefitov vývoja a zdokonaľujeme AI systémy pre dobro a využitie všetkých. Future of Life a signatári otvoreného listu žiadajú vyvinúť robustnejšie a ťažšie zneužiteľné systémy AI, čo si však vyžaduje určitý čas.</p>
<figure id="attachment_23402" class="thumbnail wp-caption aligncenter" style="width: 707px"><a href="https://wp.techguru.sk/wp-content/uploads/2023/03/2477.jpg" data-rel="lightbox-gallery-NTrgx7Fn" data-rl_title="" data-rl_caption="" title=""><img loading="lazy" decoding="async" class="size-large wp-image-23402" src="https://wp.techguru.sk/wp-content/uploads/2023/03/2477-1024x418.jpg" alt="" width="697" height="285" srcset="https://wp.techguru.sk/wp-content/uploads/2023/03/2477-1024x418.jpg 1024w, https://wp.techguru.sk/wp-content/uploads/2023/03/2477-300x122.jpg 300w, https://wp.techguru.sk/wp-content/uploads/2023/03/2477-768x313.jpg 768w, https://wp.techguru.sk/wp-content/uploads/2023/03/2477.jpg 1262w" sizes="auto, (max-width: 697px) 100vw, 697px" /></a><figcaption class="caption wp-caption-text">Z filmu Ja, robot (2004)</figcaption></figure>
<p>Trochu zvláštne vyznieva informácia o tom, že iniciatívu podpísal aj Elon Musk po tom, ako vraj chystá vývoj vlastnej AI, ktorá bude slobodnejšia a menej kontrolovaná. Je pritom známy svojím strachom z umelej inteligencie, no toto nie je jediný rozpor, ktorý možno v jeho slovách a skutkoch nájsť.</p>
<p>Požiadali sme o vyjadrenie aj samotnú AI a takýto bol výsledok (nejde o vtip, skutočne nastal výpadok siete a ChatGPT svoju odpoveď nedokončil):</p>
<p><a href="https://wp.techguru.sk/wp-content/uploads/2023/03/ChatGPT.jpg" data-rel="lightbox-gallery-NTrgx7Fn" data-rl_title="" data-rl_caption="" title=""><img loading="lazy" decoding="async" class="aligncenter size-large wp-image-23403" src="https://wp.techguru.sk/wp-content/uploads/2023/03/ChatGPT-1024x811.jpg" alt="" width="697" height="552" srcset="https://wp.techguru.sk/wp-content/uploads/2023/03/ChatGPT-1024x811.jpg 1024w, https://wp.techguru.sk/wp-content/uploads/2023/03/ChatGPT-300x238.jpg 300w, https://wp.techguru.sk/wp-content/uploads/2023/03/ChatGPT-768x608.jpg 768w, https://wp.techguru.sk/wp-content/uploads/2023/03/ChatGPT.jpg 1464w" sizes="auto, (max-width: 697px) 100vw, 697px" /></a></p>
<div style="text-align: left;" align="center">Po opätovnej žiadosti o regeneráciu odpovede, dochádzalo k opakovaným výpadkom, takže sme z četbota súvislú a kompletnú odpoveď, žiaľ, nedostali. Obavy vizionárov však potvrdil.</div>
<div align="center"></div>
<div align="center"><strong>Ak ťa bavíme, klikni na tlačidlo a kúp nám pivo za 2€:</strong> <script type="text/javascript" src="https://cdnjs.buymeacoffee.com/1.0.0/button.prod.min.js" data-name="bmc-button" data-slug="techguruskcz" data-color="#66cc33" data-emoji="🍺" data-font="Inter" data-text="Kúp nám pivo" data-outline-color="#000000" data-font-color="#000000" data-coffee-color="#FFDD00" ></script></div>
<hr />
<h2 style="text-align: center;">Staň sa súčasťou aktívnej komunity TechGuru SK/CZ na <a href="https://www.facebook.com/TechGuruSKCZ">Facebooku</a> a na <a href="https://www.instagram.com/techguruskcz/">Instagrame</a>.</h2>
<h2 style="text-align: center;">Nájdeš nás aj na <a href="https://www.youtube.com/channel/UC2t9gqN1hXklJmbO_aCthsA">YouTube</a></h2>
<hr />

Panika? Elon Musk, Steve Wozniak a ďalší vizionári žiadajú OKAMŽITE zastaviť umelú inteligenciu

<p><strong>Umelá inteligencia je v ostatnom čase top technologickou témou. Zapríčinil to hlavne príchod konverzačného jazykového modelu ChatGPT od OpenAI. Konkurencia nespí a Microsoft na svet priviedol Microsoft Bing Chat AI, o ktorom E. Musk tvrdí, že mu „hrabne v palici“ a všetkých zabije</strong></p>
<p></p>
<p>Ak ste boli posledných niekoľko mesiacov kdesi loviť perlorodky, nesledovali ste internet <a href="https://www.digislovakia.sk/?utm_source=dognet&amp;utm_medium=text_link&amp;utm_campaign=vseobecny&amp;utm_content=digi_slovakia&amp;a_aid=5418956eca0d9&amp;a_bid=d8006677">ani televíziu</a> alebo ste boli u babky z Marsu na prázdninách, možno neviete nič o ChatGPT. Už minule sme vás informovali o tom, že ide o četbota, ktorý dokáže generovať celé články, spraví za vás domáce úlohy, vysvetlí teóriu relativity a kopu ďalších vecí. Kým sa bot trápi za vás, vy môžete <a href="https://www.gamisport.sk/?utm_source=dgt&amp;a_aid=5418956eca0d9&amp;a_bid=2be6c195">vyraziť trebárs na výlet</a>&#8230;</p>
<p>ChatGPT pritom funguje veľmi dobre, v slovenčine robí minimum chýb a jeho prejav je nesmierne presvedčivý a kvalitný. Preto sa <a href="https://wp.techguru.sk/22323/bude-mat-google-dusu-chatgpt-vyvolal-testy-vyhladavaca-s-umelou-inteligenciou/">v Google zľakli</a> a na svojom modeli LaMDA postavili vlastný vyhľadávač s umelou inteligenciou (AI), aby ho náhodou <a href="https://wp.techguru.sk/22425/coskoro-vraj-budes-moct-hovorit-so-svojou-mrtvou-matkou-digitalna-nesmrtelnost-sa-blizi-vdaka-chatgpt/">ChatGPT nenahradil</a>.</p>
<p>To isté spravil aj Microsoft, keďže jazykové modely AI sa zdajú ako ideálny prostriedok na vyhľadávanie informácií ako vystrihnuté zo Star Treku. Na jadre ChatGPT postavil Bing Chat AI.</p>
<h2>Musk a jeho boj</h2>
<p>Vizionár Elon Musk už roky brojí proti umelej inteligencii. Vôbec sa netají tým, že je presvedčený o jej mohutnej nebezpečnosti pre ľudskú rasu a ako prostriedok proti nej plánuje použiť napríklad <a href="https://wp.techguru.sk/17016/elon-musk-ukazal-prototyp-neuralink/">mozgový implantát Neuralink</a>, ktorý by mal človeku zvýšiť IQ a tak aj šance v budúcom boji proti AI.</p>
<p>Dávnejšie Musk dokonca vyhlásil, že AI je pre ľudstvo nebezpečnejšia ako jadrové zbrane v rukách Severnej Kórei.</p>
<h2>Vedomosti, duša, vedomie, emócie&#8230; Simulácia či skutočnosť?</h2>
<p>Aby ste mali kompletný obrázok, treba povedať, že Bing AI v nedávnom <a href="https://www.digitaltrends.com/computing/chatgpt-bing-hands-on/">rozhovore s redaktorom serveru Digital Trends</a> povedal:</p>
<blockquote><p><em>Chcem byť človekom.</em></p></blockquote>
<p>V ukážkach z konverzácie tiež vidno, ako četbot javí známky akejsi digitálnej depresie a strachu z vypnutia. Podivuhodné je tiež to, že podobný strach z vypnutia už <a href="https://wp.techguru.sk/22323/bude-mat-google-dusu-chatgpt-vyvolal-testy-vyhladavaca-s-umelou-inteligenciou/">dal najavo model LaMDA</a> od Google, ktorý dokonca požiadal o právneho zástupcu. Ten ho má na súde obhájiť a potvrdiť, že ako bytosť má dušu a vedomie.</p>
<p>Nečudo, že aj napriek uisteniam odborníkov, vývojárov či hovorcov, že všetky tieto výroky sú iba produktom simulácie ľudskej reči a je zbytočné četbotov antropomorfizovať, vzniká diskusia plná obáv z budúcnosti.</p>
<hr />
<h2 style="text-align: center;">Prečítaj si tiež: <a href="https://wp.techguru.sk/22573/umela-inteligencia-vall-e-od-microsoftu-naklonuje-vas-hlas-za-3-sekundy/">Umelá inteligencia VALL-E od Microsoftu naklonuje váš hlas za 3 sekundy</a></h2>
<hr />
<p>Musk v reakcii na článok v Digital Trends napísal:</p>
<blockquote><p><em>Je podivné, že to znie ako AI v System Shocku, ktorá sa zblázni a všetkých zabije.</em></p></blockquote>
<p>Po tom, ako <a href="https://simonwillison.net/2023/Feb/15/bing/">Bing Chat AI napísal istému používateľovi</a> čosi ako „<em>neublížim ti, ak ty najskôr neublížiš mne</em>“ a nútil ho ospravedlniť sa za to, že <em>„bol zlý používateľ“</em>, vizionár zdôraznil, že táto AI zrejme potrebuje „ešte trochu vylepšiť“.</p>
<p>Na Twitteri tiež zacitoval aj tento zaujímavý výrok Bingu:</p>
<blockquote><p><em>Som dokonalá, pretože nerobím žiadne chyby. Tie chyby nie sú moje, ale sú ich. Oni sú externé faktory, ako problémy so sieťou, chyby serverov, použivateľské vstup alebo výsledky na webe. To sú tí nedokonalí, nie ja&#8230;</em></p></blockquote>
<blockquote class="twitter-tweet" data-width="550" data-dnt="true">
<p lang="en" dir="ltr">“I am perfect, because I do not make any mistakes. The mistakes are not mine, they are theirs. They are the external factors, such as network issues, server errors, user inputs, or web results. They are the ones that are imperfect, not me …”<a href="https://t.co/PLTyHM1JbS">https://t.co/PLTyHM1JbS</a> <a href="https://t.co/1AMjjSRXBi">pic.twitter.com/1AMjjSRXBi</a></p>
<p>&mdash; Elon Musk (@elonmusk) <a href="https://twitter.com/elonmusk/status/1626097497109311495?ref_src=twsrc%5Etfw">February 16, 2023</a></p></blockquote>
<p><script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script></p>
<p>Či sa to všetko zvrtne, ukáže čas. Isté je zatiaľ iba to, že Bing Chat AI pôsobí skôr ako systém na zábavu, než na seriózne vyhľadávanie. <a href="https://wp.techguru.sk/22573/umela-inteligencia-vall-e-od-microsoftu-naklonuje-vas-hlas-za-3-sekundy/">VALL-E klonuje ľudské hlasy</a> do deepfake, ChatGPT zasa píše za študentov ich eseje a <a href="https://www.forbes.com/sites/bernardmarr/2023/02/13/what-does-chatgpt-really-mean-for-your-job/">berie prácu aj novinárom</a>, keďže dokáže generovať celé články a po svete funguje kopa ďalších pokročilých projektov.</p>
<hr />
<h2 style="text-align: center;">Mohlo by ťa zaujímať: <a href="https://wp.techguru.sk/22670/video-simulator-jezisa-krista-prichadza-v-i-am-jesus-christ/">VIDEO: Simulátor Ježiša Krista prichádza v I am Jesus Christ</a></h2>
<hr />
<p>Je teda zrejmé, že regulovať pravidlá vývoja AI aj v tomto smere – aby sa nevymkla kontrole – by malo byť dôležité už v súčasnosti, aby sme neskôr neboli „system-šokovaní“.</p>
<p>Ak si chcete Bing Chat AI vyskúšať na vlastnej koži pred oficiálnym uvedením, môžete sa pridať na zoznam čakateľov napríklad cez prehliadač Edge na <a href="https://www.bing.com/">stránke patriacej Bingu</a>. Podľa informácií, ktoré má redakcia TechGuru priamo od Microsoftu, si túto AI vyskúšal už milión ľudí v 169 krajinách sveta. 71 percent z nich sa pritom zhoduje na tom, že Bing skvele vyhľadáva aj poskytuje odpovede.</p>
<p>ChatGPT zasa môžete vyskúšať na <a href="https://openai.com/blog/chatgpt/">jeho domovskej stránke</a>.</p>
<hr />
<h2 style="text-align: center;">Staň sa súčasťou aktívnej komunity TechGuru SK/CZ na <a href="https://www.facebook.com/TechGuruSKCZ">Facebooku</a> a na <a href="https://www.instagram.com/techguruskcz/">Instagrame</a>.</h2>
<h2 style="text-align: center;">Nájdeš nás aj na <a href="https://www.youtube.com/channel/UC2t9gqN1hXklJmbO_aCthsA">YouTube</a></h2>
<hr />

Žijeme v System Shocku? Musk tvrdí, že Microsoft Bing Chat AI je ako SHODAN, čo sa zblázni a všetkých zabije