Google predstavil izboljšani detektor za izdelke umetne inteligence

Google je predstavil novo verzijo detektorja za prepoznavanje izdelkov umetne inteligence, ki išče skrivne vzorce SynthID. Te vodne žige v vsebine, ki so nastale z umetno inteligenco, vstavijo Gemini in nekateri drugi modeli. Človeškemu očesu niso vidni, kakovosti vsebine ne spremenijo opazno, a za seboj pustijo jasno sled. SynthID se na primer vkodira v slike, videoposnetke in glasbo, ki jo ustvari Gemini. Google pravi, da je doslej s SynthID opremil že 180 milijard slik in za 240.000 ur avdio posnetkov. Doslej je bil edini način za prepoznavanje teh vsebin vprašati Gemini. Odslej se lahko obrnemo na SynthID, kamor naložimo vsebino in preverimo, ali nosi podpis. Njegova glavna pomanjkljivost je omejenost na Geminijev SynthID, tako da ne prepozna izdelkov OpenAI. Za zdaj. V pripravi je nova verzija, ki bo podpirala tudi druge modele, denimo podjetij OpenAI, Nvidia, Kakao in Apple. Še vedno pa pomembne omejitve ostajajo, saj orodja prepoznavajo le vsebine, ki vsebujejo namerni podpis umetne inteligence. V svetu obstajajo tudi siva orodja, ki tega ne počnejo. Morda bomo v prihodnosti počeli obratno in podpisovali avtentične vsebine. [st.slika 76672]