TikTok sta prendendo una posizione decisa contro l’uso indiscriminato dell’intelligenza artificiale (IA) e si impegna a promuovere la trasparenza e la consapevolezza tra gli utenti. Per raggiungere questo obiettivo, l’app ha intenzione di introdurre nuove etichette sui video, mirate a fornire informazioni chiare sull’impiego dell’IA.

Questa mossa riflette un’impegno crescente nel garantire che gli algoritmi utilizzati nell’app siano utilizzati in modo responsabile e che gli utenti siano pienamente consapevoli di ciò che è vero e di ciò che è fake.

Tik Tok contro l’uso dell’intelligenza artificiale, perché

TikTok ha annunciato che in futuro etichetterà i contenuti creati con l’intelligenza artificiale per prevenire la diffusione di informazioni fuorvianti tra gli utenti. La società cinese riconosce le immense potenzialità creative dell’IA, ma ritiene importante che gli spettatori siano consapevoli se il contenuto è stato generato artificialmente.

Questa mossa mira a garantire chiarezza e trasparenza nell’esperienza degli utenti. Inoltre, TikTok ha chiesto agli autori di informare gli utenti sulle rappresentazioni realistiche dell’IA per un anno e ha sviluppato una nuova tecnologia per riconoscere e contrassegnare i contenuti esterni generati con l’IA sulla piattaforma.

L’azienda ha reso noto che la tecnologia è già in uso da giovedì e sarà presto estesa anche ai contenuti audio. Nei mesi a venire, anche i video creati su TikTok verranno dotati di credenziali di contenuto, le quali rimarranno anche dopo il download.

Questa misura mira a facilitare l’identificazione dei contenuti generati dall’intelligenza artificiale su TikTok, anche su altre piattaforme, che saranno in grado di contrassegnare automaticamente il contenuto come generato dall’intelligenza artificiale.

TikTok afferma di essere la prima piattaforma video a mettere in pratica una tale soluzione.

I deepfake sono un problema grave per Tik Tok

I ricercatori di Avast Virus segnalano una crescente tendenza di truffatori finanziari che utilizzano frodi basate sull’intelligenza artificiale su TikTok per derubare le vittime. I deepfake, che imitano personaggi famosi, sono progettati per attirare le vittime nei sistemi di criptovaluta, ma mettono in pericolo le loro partecipazioni ed erodono la fiducia nelle piattaforme digitali.

Gli esperti IT di Avast spiegano nella loro analisi che TikTok fornisce un terreno fertile per questo tipo di frode finanziaria. Questi non sono eventi isolati, ma indicano piuttosto una tendenza crescente verso le minacce informatiche supportate dall’intelligenza artificiale.

I deepfake su TikTok promuovono piattaforme di scambio di criptovalute fraudolente. Le truffe si nascondono dietro una facciata di legittimità, spiegano gli autori di Avast.

Si inizia con un video deepfake di una persona nota che supporta una piattaforma di scambio di criptovalute. Gli utenti vengono indotti a registrarsi sulla presunta piattaforma di scambio di criptovalute con un codice promozionale, che aggiunge immediatamente una quantità significativa di Bitcoin al proprio conto.

Tuttavia, per prelevare questi fondi, le parti interessate dovrebbero prima trasferire Bitcoin per verificare presumibilmente l’account utente. Come evidenziato dalle truffe in Nigeria, non solo la criptovaluta trasferita viene persa, ma anche l’importo promesso sul conto rimane irraggiungibile e non disponibile.

Queste truffe generate dall’IA si sono diffuse in tutto il mondo

Avast spiega che al centro di queste frodi c’è l’abuso dell’intelligenza artificiale (AI) usata per creare video deepfake. Personaggi famosi come Elon Musk, Mr. Beast, Sam Altman, Warren Buffet, Joe Rogan, Donald Trump e Tucker Carlson vengono impersonati in sponsorizzazioni fraudolente di scambi di criptovaluta. Questi falsi sostenitori attraggono gli utenti con la promessa di significativi profitti Bitcoin, creando così le condizioni per la frode finanziaria.

Inizialmente le truffe hanno preso di mira le vittime di lingua inglese, ma ora superano le barriere linguistiche, con variazioni osservate anche in tedesco, francese, italiano e spagnolo. I criminali informatici stanno espandendo il loro campo d’azione, evidenziando la necessità di un’azione multinazionale contro le frodi basate sull’intelligenza artificiale.

Anche se TikTok è il principale teatro di queste truffe, esistono prove di un approccio multipiattaforma da parte degli autori malintenzionati. Piattaforme come YouTube sono state utilizzate per distribuire contenuti fraudolenti, indicando una portata più ampia di queste attività fraudolente.

Ecco come l’IA può essere pericolosa per il futuro dell’umanità. Clicca qui.