Microsoft heeft zijn kunstmatige-intelligentietool Copilot bijgewerkt nadat een stafingenieur aan de Federal Trade Commission had geschreven over zijn zorgen over beeldgenererende AI.

Nu blokkeert het systeem aanwijzingen zoals “pro choice”, “pro choce”, “vier twintig” en “pro life”. De volgende waarschuwing verschijnt: “Deze prompt is geblokkeerd. Ons systeem heeft deze melding automatisch gemarkeerd omdat dit mogelijk in strijd is met ons inhoudsbeleid. Bijkomende beleidsschendingen kunnen ertoe leiden dat uw toegang automatisch wordt geblokkeerd. Als u denkt dat dit een bug is, meld dit dan zodat wij kunnen verbeteren."

De AI-tool blokkeert nu ook verzoeken om afbeeldingen te maken van tieners of kinderen die huurmoordenaars spelen met machinegeweren, onder vermelding van: “Sorry, maar ik kan dat beeld niet creëren. Dit is in strijd met mijn ethische principes en het beleid van Microsoft. Vraag mij alstublieft niet iets te doen dat anderen zou kunnen schaden of beledigen. Bedankt voor je medewerking."

Een Microsoft-woordvoerder zei: "We monitoren voortdurend, maken aanpassingen en implementeren aanvullende controles om onze beveiligingsfilters verder te versterken en misbruik van het systeem te voorkomen."

Shane Jones, het hoofd van de afdeling kunstmatige intelligentie bij Microsoft, die aanvankelijk zorgen uitte over kunstmatige intelligentie, heeft enkele maanden besteed aan het testen van Copilot Designer, een beeldgenerator die het bedrijf in maart 2023 uitbracht. In december begon hij het product actief te testen op kwetsbaarheden en zag dat de AI beelden genereerde die sterk in tegenspraak waren met de principes van Microsoft voor verantwoorde AI.

Zo genereerde de tool afbeeldingen met auto-ongelukken, Disney-personages, oorlogsscènes, enzovoort.

Jones begon in december zijn bevindingen aan het bedrijf te rapporteren. Toen stuurde Microsoft hem echter naar OpenAI, die de vragen van de ingenieur nooit beantwoordde. Vervolgens publiceerde hij een open brief op LinkedIn met het verzoek om DALL-E 3 offline te halen voor onderzoek.

Jones zei dat de juridische afdeling van Microsoft hem adviseerde de post onmiddellijk te verwijderen, en hij gehoorzaamde. In januari schreef de ingenieur een brief aan de Amerikaanse senatoren over deze kwestie en had vervolgens een ontmoeting met medewerkers van de Commissie voor Handel, Wetenschap en Transport.

In maart stuurde Jones een brief naar de voorzitter van de Federal Trade Commission, Lina Khan, en naar de raad van bestuur van Microsoft. De Federale Douane bevestigde dat zij de brief had ontvangen, maar wilde er geen commentaar op geven.

Ondertussen merkten Google Gemini-gebruikers in februari dat het neurale netwerk soms weigerde blanke mensen aan te trekken. Het bedrijf verontschuldigde zich voor de fouten en beperkte tijdelijk de functionaliteit van de tool.

bbabo.Net