Meta lancia il generatore di immagini IA Muse Image e solleva preoccupazioni sulla privacy

Meta promuove il prodotto con lo slogan secondo cui Muse Image è un modello „che conosce il tuo mondo“. Nello specifico, il gruppo descrive lo strumento come un „partner creativo che conosce il tuo mondo e ti permette di trasformare facilmente le tue idee in immagini di alta qualità, che puoi scaricare e condividere ovunque – anche direttamente nel tuo feed, nella tua story o nella tua chat“. La citazione originale in tedesco recita: „Muse Image ist Ihr kreativer Partner, der Ihre Welt kennt und es Ihnen leicht macht, Ihre Ideen in hochwertige Bilder umzusetzen, die Sie herunterladen und überall teilen können – auch direkt in Ihrem Feed, Ihrer Story oder Ihrem Chat“.

Sul piano funzionale, il generatore di immagini si distingue dalle soluzioni precedenti. In combinazione con il modello linguistico di grandi dimensioni Muse Spark, il sistema è in grado, secondo The Verge, di „elaborare logicamente i prompt, effettuare ricerche sul web e pianificare in anticipo la generazione delle immagini“. Wang lo ha formulato così: l'IA „analizzerà il tuo prompt, farà ricerche in rete e pianificherà, prima di generare qualcosa“. Ciò significa che Muse Image può anche creare autonomamente diagrammi, codici QR funzionali, GIF animate, intere pagine web e semplici giochi visivi.

Gamma di funzioni e novità tecniche

Il sistema dispone inoltre di una capacità di auto-ottimizzazione. Secondo Meta, questa proprietà non si è sviluppata intenzionalmente, ma è emersa „durante l'addestramento“. Su richiesta, durante un test il sistema ha proposto di propria iniziativa dei miglioramenti, chiedendo ad esempio: „Vuoi che modifichi ancora lo sfondo, ad esempio tramonto o più onde?“. Un tipico suggerimento di modifica era: „Cambia il fiore in un tulipano“.

Oltre alla generazione libera, Muse Image offre preset predefiniti. È possibile, tra l'altro, regolare l'illuminazione di una foto, rimuovere oggetti o persone dallo sfondo e personalizzare gli annunci pubblicitari. Una funzione speciale consente di riprogettare ambienti sulla base di immagini; questa dovrebbe essere collegata principalmente al Marketplace di Facebook. Meta ne ha dimostrato la possibilità in un video promozionale, in cui gli utenti possono visualizzare un divano usato nel proprio garage – l'azienda lo formula così: „ad esempio si può verificare in anticipo come apparirebbe un divano usato nel proprio soggiorno“. Internamente la funzione era nota con il nome in codice Mango.

La caratteristica nuova potenzialmente più delicata riguarda il trattamento dei contenuti di altri utenti. Muse Image consente agli utenti di manipolare con l'IA le immagini di altri utenti Instagram, purché i loro profili siano visibili pubblicamente. A tal fine è sufficiente „una semplice menzione di un utente tramite @ nel prompt“, come spiega il gruppo. L'IA può così modificare l'aspetto di una persona o collocare le sue immagini in un contesto diverso. È anche possibile taggare profili pubblici nei prompt IA e generare immagini con foto, reel o audio altrui.

Le reazioni a questa funzione sono di conseguenza critiche. Sulla piattaforma X la procedura è stata già definita un „campo minato della privacy con detonazione garantita“. I critici lamentano che „persone reali vengono trascinate in foto generate senza un previo consenso esplicito“. Un'ulteriore preoccupazione riguarda la funzione audio: quando è attivata, chiunque può creare contenuti nelle app e sui siti web con Meta AI utilizzando le registrazioni audio originali complete o loro estratti.

Privacy e il dibattito sui profili pubblici

Meta sottolinea dal canto suo che i titolari degli account possono utilizzare le impostazioni per disattivare questo tipo di cooptazione delle proprie immagini. Chi vuole proteggere la propria privacy deve però agire attivamente, poiché la funzione è attiva di default per gli account pubblici. Come spiega l'azienda, in questo modo „massimizza la base disponibile di immagini, video e audio“ e si appoggia a miliardi di foto, video e dati identificativi pubblici presenti sulle sue piattaforme.

Chi desidera impedire il riutilizzo deve, nell'app Instagram, passare al proprio profilo, toccare in alto a destra il menu con le tre linee e aprire „Impostazioni e attività“. Successivamente occorre scorrere fino alla sezione „Condividi e riusa“ e disattivare i singoli interruttori – separatamente per post, reel e registrazioni audio originali. Tuttavia ciò interrompe solo le generazioni future; le immagini IA già create restano e non vengono eliminate. Lo stesso vale, come ammette il gruppo, se un account viene successivamente impostato come privato.

I critici fanno notare che la filigrana invisibile introdotta da Meta, „Content Seal“, attesta sì la provenienza IA di un'immagine, ma non impedisce che un'immagine indesiderata venga addirittura creata. L'azienda replica che „scattano filtri contro i contenuti chiaramente dannosi“. In Europa, secondo il rapporto, la funzione sarà osservata con attenzione anche in relazione al GDPR e alla protezione dei dati biometrici.

Lancio sul mercato negli USA e prospettive per l'Europa

L'ingresso sul mercato avviene negli Stati Uniti e tramite WhatsApp; lì Muse Spark ha comunicato: „La funzione immagine sarà sbloccata a breve“. Inoltre, secondo Meta, verranno distribuiti 30 nuovi effetti IA per WhatsApp e Instagram, inizialmente disponibili però solo negli Stati Uniti. Per l'Europa e in particolare la Germania il gruppo non ha indicato un calendario concreto – la funzione finora non è integrata.

Il nuovo sistema sostituisce al contempo una generazione precedente. Come spiega Meta, finora le funzioni immagine e video facevano ricorso a modelli esterni come Midjourney e Black Forest Labs; Muse sostituisce in questo segmento la precedente serie di modelli Llama. Anche il settore pubblicitario viene coinvolto: gli strumenti Advantage+ di Meta consentono ai marchi di lavorare con creatività pubblicitarie personalizzate. Ciò crea un ponte diretto tra il modello immagine e il business principale del gruppo.

Modello di business: sussidio incrociato tramite ricavi pubblicitari

La logica economica sottostante è comprensibile: Meta dispone di enormi archivi di dati generati dagli utenti e può finanziare in modo indiretto la costosa attività IA con i ricavi pubblicitari delle proprie reti social. Nonostante una strategia IA percepita come poco chiara, il gruppo continua a investire nella propria infrastruttura IA. Negli ultimi mesi Zuckerberg aveva inoltre assunto figure di spicco di laboratori IA concorrenti per rafforzare il proprio team.

Il dibatt