Meta impone filigrane invisibili sulle immagini generate dall'intelligenza artificiale per frenare l'uso improprio
Summary:
Meta, la società precedentemente nota come Facebook, prevede di aggiungere filigrane invisibili a tutte le immagini create con il suo strumento di intelligenza artificiale (AI) per prevenire l'uso improprio. A differenza delle filigrane tradizionali, queste resistono alle comuni manipolazioni delle immagini e non possono essere rimosse facilmente. Inizialmente applicato alle immagini prodotte da Meta AI, il servizio di filigrana si estenderà successivamente ad altri servizi di Meta che utilizzano l'intelligenza artificiale per la generazione di immagini. Anche la funzione "reimagine" per Facebook Messenger e Instagram, che consente agli utenti di scambiare immagini basate sull'intelligenza artificiale, riceverà questa funzione. Questo cambiamento risponde all'ondata di truffe assistite dall'intelligenza artificiale che fabbricano contenuti fuorvianti, come si è visto con video, audio e immagini falsi che hanno fatto circolare sul web.
Meta, la società precedentemente nota come Facebook, ha annunciato l'intenzione di incorporare filigrane nascoste in tutte le immagini create attraverso l'intelligenza artificiale (AI), come parte della loro strategia per contrastare l'uso improprio della tecnologia. Secondo un aggiornamento fornito il 6 dicembre in merito a Meta AI - l'assistente intelligente dell'azienda - una filigrana invisibile sarà presto incorporata in ogni immagine generata dall'intelligenza artificiale derivante dall'esperienza "imagine with Meta AI". Proprio come altri chatbot AI, Meta AI fabbrica immagini e contenuti in base all'input degli utenti; tuttavia, a differenza delle sue controparti, Meta intende scoraggiare il malaffare rifiutandosi di lasciare che la sua risorsa venga sfruttata come strumento di inganno.
La funzione di filigrana invisibile in entrata sarà resiliente ai tentativi di rimozione da parte dei creatori. "Nelle prossime settimane, una filigrana nascosta sarà integrata con l'esperienza 'imagine with Meta AI' per una maggiore trasparenza e responsabilità", ha dichiarato Meta. Un modello di deep learning verrà utilizzato per apporre filigrane - non rilevabili dall'occhio umano - alle immagini fabbricate tramite lo strumento di intelligenza artificiale. Tuttavia, le filigrane nascoste possono essere identificate con un modello appropriato. Le filigrane convenzionali sono inferiori alle filigrane AI proclamate da Meta, note come "imagine with Meta AI", che sono robuste contro le normali modifiche alle immagini, tra cui il ritaglio, le alterazioni del colore (regolazioni della luminosità o del contrasto), gli screenshot e altro ancora.
Inizialmente, il servizio di filigrana verrà applicato alle immagini prodotte tramite Meta AI, ma si prevede di estendere la funzione ad altri servizi che utilizzano l'intelligenza artificiale nella generazione di immagini. Oltre a questo, Meta AI ha lanciato la funzione "reimagine" per Facebook Messenger e Instagram. Questo aggiornamento facilita lo scambio di immagini basate sull'intelligenza artificiale tra gli utenti e integrerà la funzione di filigrana nascosta all'interno di entrambe le piattaforme di messaggistica.
Le piattaforme di intelligenza artificiale, come Dall-E e Midjourney, offrono già la possibilità di incorporare filigrane tradizionali nei loro contenuti. Tuttavia, questi possono essere facilmente rimossi ritagliando l'immagine in modo periferico. Alcuni strumenti di intelligenza artificiale possono persino eliminare automaticamente le filigrane dalle immagini, un'impresa che Meta AI afferma sarà impraticabile con il suo prodotto.
A seguito della diffusione degli strumenti di intelligenza artificiale generativa, una varietà di enti aziendali e celebrità hanno denunciato le iniziative di truffa assistite dall'intelligenza artificiale. I truffatori sfruttano strumenti utili per produrre video, audio e immagini falsificati di personaggi famosi, che poi proliferano sul web.
A maggio, un'immagine inventata dall'intelligenza artificiale raffigurante un'esplosione vicino al Pentagono, sede del Dipartimento della Difesa degli Stati Uniti, ha momentaneamente portato a un calo del mercato azionario. Questa immagine inventata è stata successivamente condivisa e diffusa da altre testate giornalistiche, provocando così un effetto a cascata. Tuttavia, le forze dell'ordine locali, tra cui la Pentagon Force Protection Agency, responsabile della sicurezza dell'edificio, hanno confutato i rapporti circolanti, sottolineando che non c'è stata "alcuna esplosione o incidente".
Nello stesso mese, Amnesty International, un'organizzazione per i diritti umani, è stata ingannata da un'immagine generata dall'intelligenza artificiale che pretendeva di mostrare l'oppressione della polizia, che successivamente ha utilizzato per campagne contro le forze dell'ordine. Erika Guevara Rosas, direttrice di Amnesty International per le Americhe, ha riconosciuto l'errore: "Abbiamo ritirato le immagini dagli aggiornamenti dei social media, poiché non vogliamo che la disputa sull'uso di immagini inventate dall'intelligenza artificiale metta da parte il sostegno alle vittime e le loro richieste di giustizia in Colombia".
Published At
12/7/2023 11:50:05 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.