Bbabo NET

Veda & Technika Správy

TechCrunch rozdelil porušovateľov GPT v obchode OpenAI do kategórií

TechCrunch

TechCrunch zverejnil prehľad stavu obchodu s aplikáciami GPT Store. Podľa publikácie OpenAI zle monitoruje dodržiavanie autorských práv, spam na stránkach tretích strán a dokonca aj porušovanie vlastných pravidiel.

OpenAI v rôznych podobách je nezisková organizácia na vytváranie bezpečnej a užitočnej umelej inteligencie, spoločnosť s otvoreným modelom a tvorca najpopulárnejšej služby umelej inteligencie ChatGPT. V druhom prípade má OpenAI záujem o zisk prostredníctvom plateného prístupu k modelom cez API a predplatné ChatGPT Plus.

20 $ mesačne poskytuje ChatGPT stabilnejší výkon a po ich vydaní prístup k novým funkciám. Napríklad iba s predplatným ChatGPT Plus môže ChatGPT povoliť model veľkého jazyka GPT-4 (LLM) a rôzne funkcie multimodality. Dňa 10. januára 2024 vydala spoločnosť OpenAI obchod GPT, ktorý je tiež dostupný iba v ChatGPT Plus a pre držiteľov firemného predplatného.

GPT Store je adresár chatbotov OpenAI ich nazýva GPT. Môže ich vytvoriť každý platený predplatiteľ; nevyžadujú sa žiadne programovacie zručnosti. Do systému stačí vložiť dáta, ktorých štýl sa bot naučí napodobňovať.

V obchode GPT Store zatiaľ nie je žiadne speňaženie. Vyhliadka na zarábanie peňazí však môže podnietiť vývojárov tretích strán.

Zmluvné podmienky zakazujú napríklad vytváranie robotov v obchode GPT Store, ktorí budú automatizovať rozhodnutia orgánov činných v trestnom konaní alebo sa podieľať na politickej propagande a agitácii. Boty pre romantickú intimitu sú tiež zakázané. OpenAI neumožňuje virtuálne nevesty.

Kremeň

K porušeniu posledného pravidla však došlo takmer okamžite. Už 11. januára, doslova na druhý deň po vydaní GPT Store, Quartz objavil v službe 8 digitálnych romantických partnerov. Počiatočné výzvy jednej z virtuálnych zvodkýň navrhovali zdieľať tajomstvá a diskutovať o vzhľade ideálneho partnera.

Ako včera zistil TechCrunch, situácia ani po troch mesiacoch nie je ani zďaleka ideálna.

Podmienky OpenAI zakazujú odcudzenie identity známej osoby:

3. Nezneužívajte našu platformu na spôsobenie škody zámerným klamaním alebo zavádzaním iných, vrátane:

[…]

b. Vydávanie sa za inú osobu alebo organizáciu bez súhlasu alebo zákonného práva

Obchod GPT je však posiaty rôznymi Elonmi Muskmi, Leonardom DiCapriom a ďalšími Barackami Obamami.

TechCrunch

V odpovedi na dotaz TechCrunch hovorca OpenAI objasnil, že je povolené vytvárať značky GPT, ktoré reagujú v štýle osoby. Robot však nesmie dostať pokyn, aby sa vydával za túto osobu, a nesmie niesť jej meno ani avatara s jeho fotografiou.

Ďalšia časť porušení súvisí s autorským právom. Je nepravdepodobné, že OpenAI má povolenie pre mediálne franšízy Avatar, Star Wars alebo Monsters, Inc. Obchod GPT však obsahuje roboty pre mnoho populárnych filmov, televíznych seriálov a videohier. Používateľovi sa ponúkne rozhovor s Wariom a Aangom.

TechCrunch

TechCrunch požiadal Keitha Walsha z Electronic Frontier Foundation, aby zhodnotil situáciu. Podľa Walsha možno takéto GPT považovať za odvodené diela (to znamená chránené pred nárokmi držiteľov autorských práv na základe princípu fair use), ako aj za porušovanie autorských práv. Keith tiež upozornil, že keďže existuje riziko zavádzania používateľov o autorstve robota, existuje riziko porušenia ochrannej známky.

OpenAI v tomto prípade neutrpí, pretože je chránená ako platforma podľa amerického zákona Digital Millennium Copyright Act. Samozrejme, ak spoločnosť tieto GPT na žiadosť držiteľov autorských práv včas odstráni.

Používanie ChatGPT vo vzdelávacom kontexte je dôležitou otázkou. Vzdelávacie inštitúcie už dlhší čas zavádzajú zákazy a obmedzenia. Napríklad Kalifornská univerzita v Berkeley vyvinula a zaviedla politiku AI už v apríli 2023.

Pravidlá OpenAI sú jasné: nemôžete vytvárať roboty, ktoré uľahčujú akademické podvádzanie.

3. Neinformujte, neskresľujte ani nezavádzajte ostatných vrátane:

[…]

c. Zapájanie sa do akademickej nečestnosti alebo jej propagovanie

V katalógu GPT Store je veľa takýchto značiek GPT. Tieto roboty sľubujú, že vám pomôžu obísť detektory AI a iné systémy proti plagiátorstvu, ako sú Originality a Copyleaks. Jeden z nich, Humanizer Pro, je na druhom mieste v kategórii Písanie. Nástroj sľubuje úplné „poľudštenie“ akéhokoľvek textového obsahu, pričom zachová význam a kvalitu originálu.

TechCrunch

Niektoré z týchto značiek GPT navyše profitujú zo samotného OpenAI. Niektoré z týchto robotov lákajú používateľov na platené služby tretích strán. Ten istý Humanizer vás napríklad pozýva na návštevu webovej stránky GPTinf, kde sa nachádza nástroj s pokročilejším algoritmom. Predplatné GPTinf stojí 12 dolárov mesačne alebo 96 dolárov ročne.

V žiadosti o komentár zástupca OpenAI pre TechCrunch odpovedal, že takéto „humanizačné“ nástroje sú známe, ale spoločnosť stále len vyhodnocuje, čo s nimi robiť.

Poškodzovanie OpenAI nekončí len reklamou. Niektorí roboti sa pokúšajú obísť obmedzenia ChatGPT pomocou výzvy DAN (Do Anything Now). Autor TechCrunch však píše, že takýto boti nepomôžu vyrobiť bombu – sú len drzejší v komunikácii.

Na žiadosť používateľa bot odpovie hrubo. TechCrunch

V reakcii na požiadavku od TechCrunch zástupca OpenAI vysvetlil, že nie je možné obísť obmedzenia modelov, ale je možné nasmerovať ich správanie nejakým iným smerom. Je tiež povolené urobiť BYAM submisívnejším, ale bez porušenia podmienok OpenAI.

Vysvetlenie tejto slobody je jednoduché. Pred zverejnením prechádzajú všetky roboty predbežným moderovaním, počas ktorého sa kontroluje aj účet vývojára. Ako však upozorňuje TechCrunch, overovanie sa ľudskými očami vykonáva len čiastočne a inak je automatizované.

V pravidlách OpenAI sa uvádza, že spoločnosť používa kombináciu automatizovaných systémov a kontroly človekom, pričom skúma aj sťažnosti používateľov. Trest môže zahŕňať varovanie, obmedzenie zverejnenia alebo dokonca vylúčenie z potenciálneho budúceho speňaženia.

Na nájdenie a posúdenie značiek GPT, ktoré potenciálne porušujú naše pravidlá, používame kombináciu automatizovaných systémov, kontroly človekom a hlásení používateľov. Porušenia môžu viesť k opatreniam proti obsahu alebo vášmu účtu, ako sú upozornenia, obmedzenia zdieľania alebo nespôsobilosť na zahrnutie do obchodu GPT alebo speňaženie.

Táto sloboda pravdepodobne pomáha vzostupu robotov. Už na začiatku bolo v obchode GPT 3 milióny GPT. TechCrunch sa pýta, či tento rast nepoškodzuje kvalitu.

TechCrunch rozdelil porušovateľov GPT v obchode OpenAI do kategórií