Toto deepfake video o zneužiteľnosti umelej inteligencie vám zlomí srdce. Ella prosí rodičov, aby ju ochránili

Spoločnosť Telekom vytvorila deepfake video, ktoré upozorňuje na veľký problém – zneužiteľnosť umelej inteligencie v súvislosti s fotkami detí. Z malej Elly urobili veľkú a tá virtuálne oslovila svojich rodičov

Video by si mali pozrieť hlavne rodičia, ale nejde len o deti a zneužiteľnosť AI sa týka všetkých. Mnohí netušia, čo už dnešná technológia dokáže a myslia si, že je v plienkach. V istom zmysle možno, ale všeobecne už prešla významným vývojom a napreduje obrovskou rýchlosťou.

Modely, ktoré boli pred pol rokom špička, sú dnes zastarané a aj keď je AI úžasný nástroj, ktorý vám pomôže pripraviť si jedálniček, aby ste schudli alebo napíše za vás kvalitnú esej, stále je tu odvrátená strana.

Pozri sa aj na toto: Otec Justin je umelá inteligencia, ktorá uverila, že je skutočným kňazom

Pokiaľ zverejňujete fotky a videá svojich detí na sociálnych sieťach, dávajte si pozor na to, aký je to obsah. Len tým uľahčujete prácu nepoctivým ľuďom. Na druhej strane – a to možno uniká aj autorovi tohto videa – situácia je v skutočnosti ešte horšia, než ukazuje video o Elle. Aj obyčajné nevinné fotky a videoobsah sú zneužiteľné a možno z nich vygenerovať prakticky čokoľvek. AI si dokáže veľa vecí domyslieť a aktuálne už existujú modely, ktoré aj z fotografie osoby v oblečení urobia fotorealistické nahé fotky či videá.

Stačí na to obyčajný bežný počítač, aký máte na stole a niekoľko hodín, alebo pri vyššej kvalite niekoľko dní času. AI naučíte tréningom rozpoznať tvár obete pomocou niekoľkých obrázkov či videí. Následne nakrútite video inej osoby a nasadíte jej „digitálnu masku“. Návody ako to urobiť možno nájsť na internete a hlasové generátory sa dokážu učiť rovnako dobre… Takže ak chcete vierohodné video, potrebujete aj nejaký zvukový záznam, no nemusí byť dlhší ako niekoľko sekúnd.

(Ak vám nejde angličtina, môžete si zapnúť automaticky generované titulky.)

A teraz čerešnička na torte. V čase vzniku článku bolo toto video už rok staré a AI za ten čas pokročila oveľa ďalej…

Aby bolo jasné – nesnažíme sa vyvolať paniku, ide nám skôr o osvetu. Na minimalizovanie pravdepodobnosti, že sa stanete obeťou tohto deepfake podvodu, si vždy dobre rozmyslite, aký obsah zverejňujete na sociálnych sieťach. Nielen ten súvisiaci s vašimi deťmi.

Pamätajte na staré úslovie – Čo sa raz dostane na internet, už nikto nikdy nevymaže.

Ak ťa bavíme, podpor nás a kúp nám pivo za 2€:

Staň sa súčasťou aktívnej komunity TechGuru SK/CZ na Facebooku a na Instagrame.

Nájdeš nás aj na YouTube

O autorovi

Peter Vnuk

Je celoživotným fanúšikom technológií a pracuje pre niekoľko popredných slovenských médií z tejto oblasti. Okrem produktových recenzií, spravodajstva zo sveta vedy a techniky, sa venuje tiež tematickým článkom na hi-tech témy, ako je umelá inteligencia, robotika, virtuálna realita a pod. Je mu blízka tiež herná sféra, preto recenzuje aj herné príslušenstvo a hry.