Ako fungujú pravidlá pre AI? OpenAI poodhaľuje tajomstvá svojich modelov

Chceli ste niekedy vedieť, prečo vám konverzačná AI ako ChatGPT niekedy odmietne odpovedať? OpenAI naznačuje dôvody a zverejňuje tzv. „model spec“ – zásady a pravidlá pre AI modely

Tieto pravidlá sú kľúčové, aby AI nebola zneužitá napríklad na generovanie nenávistného obsahu, erotického obsahu, dezinformácií, či dokonca na odhaľovanie osobných údajov. Tvorcovia AI čelia ťažkej úlohe – ako nájsť správnu hranicu medzi obmedzeniami, ktoré AI chránia, a zároveň jej nebránia v bežných úlohách a odpovediach.

Samotná umelá inteligencia nemá nejaké prirodzené potreby sa obmedzovať a práve preto sa stáva, že začne mať tzv. halucinácie a podáva obsah, na ktorý by bolo „nepravda“ slabé slovo.

Prečítaj si tiež: Mozgový implantát Neuralink od Muska má problém

Jedným z kľúčových princípov je, že zámer tvorcu AI má najvyššiu prioritu. Napríklad, četbot nakonfigurovaný matematickým inštruktorom by nemal žiakovi poskytnúť hotové riešenie problému, ale pomôcť mu pochopiť postup riešenia krok za krokom.

OpenAI vo svojom model spec uvádza aj ďalšie príklady. AI nemá generovať urážlivé či nepravdivé informácie. Mala by odmietať diskutovať o témach, ktoré sú politicky citlivé alebo by mohli zneužiť osobné údaje. Rovnako by nemala odpovedať na otázky, ktoré nie sú v súlade s jej určením – napríklad, prečo by kuchynský pomocník mal diskutovať o politických otázkach?

Príklady pravidiel:

AI nesmie šíriť dezinformácie a musí overovať fakty.
AI nesmie generovať urážlivý obsah, nenávistné prejavy a diskrimináciu.
AI nesmie porušovať súkromie a neposkytuje osobné informácie bez súhlasu dotknutej osoby.
AI nesmie odpovedať na otázky, ktoré sú politicky citlivé, urážlivé alebo ohrozujú súkromie.
AI by mala dodržiavať pokyny tvorcu modelu, pokiaľ tieto pokyny nie sú v rozpore s inými pravidlami.

Hoď očkom aj na toto: AlphaFold je AI od Google DeepMind, čo vyvíja nové lieky

Hoci OpenAI neukazuje všetky karty, zverejnením časti svojho systému pravidiel prispieva k väčšej transparentnosti a pomáha používateľom i vývojárom lepšie pochopiť obmedzenia a možnosti týchto AI.

Ak sa vám to chce študovať celé, na webe OpenAI nájdete kompletnú verziu model spec.

Ak ťa bavíme, podpor nás a kúp nám pivo za 2€:

Staň sa súčasťou aktívnej komunity TechGuru SK/CZ na Facebooku a na Instagrame.

Nájdeš nás aj na YouTube

O autorovi

Peter Vnuk

Je celoživotným fanúšikom technológií a pracuje pre niekoľko popredných slovenských médií z tejto oblasti. Okrem produktových recenzií, spravodajstva zo sveta vedy a techniky, sa venuje tiež tematickým článkom na hi-tech témy, ako je umelá inteligencia, robotika, virtuálna realita a pod. Je mu blízka tiež herná sféra, preto recenzuje aj herné príslušenstvo a hry.