Microsoft zakazuje polícii využívať AI na tváre

Spoločnosť Microsoft zakazuje používanie svojej cloudovej služby Azure OpenAI Service, zameranej na generatívnu umelú inteligenciu, na účely rozpoznávania tvárí americkou políciou

Týmto krokom podnik reaguje na obavy spojené s uplatnením tejto technológie v praxi, ktoré pri jej nesprávnom použití môže prehlbovať diskrimináciu a viesť k nespravodlivému zaobchádzaniu.

Zákaz sa týka najmä nekontrolovaného používania technológie na rozoznávanie tvárí v reálnom čase – napríklad prostredníctvom mobilných alebo náhlavných kamier. Cieľom je zabrániť identifikovaniu ľudí v teréne bez ich vedomia a súhlasu. Microsoft si zároveň ponecháva priestor na poskytovanie podobných systémov pre stacionárne kamery v kontrolovaných priestoroch.

Prečítaj si aj toto: V USA zavádzajú povinné automatické brzdenie áut

Upravené podmienky ponechávajú priestor aj pre políciu mimo USA, nakoľko zákaz platí iba pre ich amerických kolegov. Microsoft tak reaguje na rastúce obavy z potenciálneho zneužitia výkonnej generatívnej umelej inteligencie a zdôrazňuje zodpovednosť pri aplikácii svojich technológií.

Rozhodnutie prichádza po nedávnej kritike spoločnosti Axon, výrobcu technologických produktov pre armádu a políciu. Axon uviedol na trh nový produkt využívajúci generatívny jazykový model GPT-4, schopný sumarizovať zvukové záznamy z policajných kamier. Kritika poukazuje na potenciálne zavádzanie konštruovaných faktov a na rasové predsudky, vnášané do systému dátami použitými pri trénovaní modelu.

Ak ťa bavíme, podpor nás a kúp nám pivo za 2€:

Staň sa súčasťou aktívnej komunity TechGuru SK/CZ na Facebooku a na Instagrame.

Nájdeš nás aj na YouTube

O autorovi

Peter Vnuk

Je celoživotným fanúšikom technológií a pracuje pre niekoľko popredných slovenských médií z tejto oblasti. Okrem produktových recenzií, spravodajstva zo sveta vedy a techniky, sa venuje tiež tematickým článkom na hi-tech témy, ako je umelá inteligencia, robotika, virtuálna realita a pod. Je mu blízka tiež herná sféra, preto recenzuje aj herné príslušenstvo a hry.