Metino novo pravilo: Grožnja kazni za uporabnike slik z umetno inteligenco

Meta namerava izvajati nove predpise v zvezi z vsebinami, ki jih ustvarja umetna inteligenca, na svojih platformah, kot so Facebook, Instagram in niti, kot je navedeno v objavi na blogu podjetja 6. januarja. Namen teh ukrepov je odpraviti vse večjo zaskrbljenost glede pristnosti in preglednosti digitalnih vsebin.

V skladu z obvestilom bo vsaka vsebina, ki bo prepoznana kot ustvarjena z umetno inteligenco, bodisi z metapodatki bodisi z namernim vodnim znakom, vidno označena. Poleg tega bodo imeli uporabniki možnost, da označijo neoznačeno vsebino, za katero sumijo, da je ustvarjena z umetno inteligenco, kar bo skupnosti omogočilo, da prispeva k prizadevanjem za moderiranje vsebine.

Ta pobuda odraža Metin razvijajoči se pristop k moderiranju vsebin, ki spominja na njene prejšnje prakse pred pojavom vsebin, ustvarjenih z umetno inteligenco. Z omogočanjem uporabnikom, da poročajo o kršitvah, in zagotavljanjem preglednosti pri označevanju vsebin želi Meta ohraniti celovitost svojih platform.

Če pogledamo v prihodnost do leta 2024, Meta izkorišča svojo obsežno bazo uporabnikov, da bi izboljšala zmogljivosti za moderiranje vsebin. Z omogočanjem uporabnikom, da označijo vsebine, ki jih ustvarja umetna inteligenca, Meta izkorišča moč množičnega zbiranja podatkov za reševanje nastajajočih izzivov na področju avtentičnosti digitalnih vsebin.

Kot je zapisano v blogu:

“Od ljudi bomo zahtevali, da uporabijo to orodje za razkritje in označevanje, ko bodo objavili organsko vsebino s fotorealističnim videom ali realistično zvenečim zvokom, ki je bil digitalno ustvarjen ali spremenjen, in če tega ne bodo storili, bomo lahko uporabili kazni.”

Ustvarjalci, ki uporabljajo Metine platforme, bodo morali svoje vsebine označiti kot ustvarjene z umetno inteligenco, da bi se izognili morebitnim posledicam. Čeprav Meta izvaja vodne znake in označevanje vsebin, ustvarjenih z njenimi orodji, priznava omejitve pri odkrivanju zvočnih in video vsebin, ustvarjenih z umetno inteligenco, v velikem obsegu.

Pri reševanju tega vprašanja Meta sodeluje z industrijskimi partnerji, kot so Google, OpenAI, Microsoft, Adobe, Midjourney in Shutterstock. Skupaj si prizadevajo razviti metode za odkrivanje nevidnih vodnih znakov in izboljšanje preverjanja pristnosti vsebine.

Vendar pa Meta priznava, da so trenutne omejitve pri obsežnem odkrivanju zvočnih in video vsebin, ustvarjenih z umetno inteligenco, vključno s tehnologijo deepfake, precejšnje. To poudarja, da so potrebna stalna prizadevanja za reševanje razvijajočega se področja avtentičnosti in celovitosti digitalnih vsebin.