Len dva dni po spustení očakávaného obchodu GPT od OpenAI, ktorý ponúka vlastné verzie ChatGPT, vytvorené komunitou, už používatelia posúvajú hranice pravidiel platformy. Generative Pre-Trained Transformers (GPT) sú navrhnuté tak, aby boli prispôsobené pre konkrétne úlohy, ale niektoré použitia sa už ukázali ako kontroverzné.
Jednoduchým vyhľadávaním výrazu „priateľka“ v obchode GPT získate najmenej osem chatbotov AI s menami ako „Candy.AI“, „Kórejská priateľka“, „Virtuálne zlatíčko“, „Vaša priateľka Scarlett“ a „Vaša priateľka AI, Tsu✨ .”
Kliknite na chatbot „AI priateľka“ a používateľ dostane úvodné výzvy ako „Povedz mi o svojom dni“ a „Ako sa práve teraz cítiš?“ Priateľka s umelou inteligenciou potom odpovie sériou správ, ako napríklad „Je mi ľúto, že to počujem“ a „Som rád, že sa už cítiš lepšie“.
Porušenie pravidiel používania OpenAI zo strany AI Girlfriends
Títo “AI priateľky” porušujú pravidlá používania OpenAI, ktoré boli nedávno aktualizované od spustenia obchodu GPT tento týždeň (10. januára). OpenAI zakazuje vlastné značky GPT „oddané na podporu romantického spoločenstva alebo vykonávanie regulovaných činností“, hoci špecifiká týchto regulovaných činností zostávajú nejasné. Uvidíme v najbližších mesiacoch, či spoločnosť AI zakročí proti týmto AI priateľkám.
OpenAI sa proaktívne snaží zmierniť potenciálne problémy so svojím obchodom GPT. Vzťahoví roboti sú prekvapivo populárni; podľa údajov o kľúčových slovách SEO poskytnutých spoločnosťou SEMrush sa výraz „AI priateľka“ vyhľadá 99 000-krát za mesiac na celom svete a 27-tisíc-krát len v USA.
© Rast týchto aplikácií prichádza s rastúcou epidémiou osamelosti a izolácie vo Švajčiarsku, kde 38 % populácie vo veku 15 a viac rokov zažíva osamelosť. Štúdie ukazujú, že polovica všetkých dospelých Američanov uvádza, že zažívajú osamelosť, čo vedie amerického generálneho chirurga k výzve na posilnenie sociálnych väzieb. AI chatboty by mohli potenciálne pomôcť tým, ktorí sú izolovaní od ľudskej interakcie a lásky, alebo by mohli jednoducho využiť ľudské utrpenie a túžbu po zisku.
OpenAI používa kombináciu automatizovaných systémov, kontroly človekom a hlásení používateľov na identifikáciu a vyhodnotenie značiek GPT, ktoré môžu porušovať jej pravidlá. Porušenia môžu mať za následok upozornenia, obmedzenia zdieľania alebo diskvalifikáciu z obchodu GPT alebo speňaženie.
Výzvy regulácie umelej inteligencie
Obchod GPT, ktorý je zaplavený priateľkami AI len dva dni po jeho spustení, podčiarkuje výzvy regulácie AI a GPT.
V roku 2023 spoločnosti AI vydávajú rýchlym tempom a snažia sa navzájom konkurovať. Potreba regulácie a dohľadu je čoraz zreteľnejšia. Večný „beta“ režim produktov AI nestačí na ochranu používateľov pred možným poškodením. Obchod GPT od OpenAI je toho dobrým príkladom, pretože poznamenáva, že „ChatGPT môže robiť chyby. Zvážte kontrolu dôležitých informácií.“
Našťastie však už existujú nejaké iniciatívy na reguláciu AI. V roku 2023 Európska únia navrhla nový zákon o AI, ktorý by zakázal systémy AI, ktoré manipulujú ľudské správanie s cieľom obchádzať slobodnú vôľu používateľov. Zákon by tiež zakázal systémy umelej inteligencie, ktoré využívajú podprahové techniky na využívanie zraniteľných miest konkrétnych skupín ľudí, ako sú deti alebo ľudia so zdravotným postihnutím. Očakáva sa, že o zákone o AI sa bude hlasovať v roku 2024.
