Tech

Rilevamento dell’intelligenza artificiale che inventa il proprio linguaggio spaventoso

Florentina Russo 2 anni ago 2 min read

Un programma di intelligenza artificiale ha sviluppato un proprio linguaggio e nessuno lo può capire.

OpenAI è uno sviluppatore di sistemi di intelligenza artificiale: il loro software è un ottimo esempio di supercalcolo ma ci sono delle stranezze.

DALLE-E2 è aprire aiL’ultimo sistema di intelligenza artificiale: può creare immagini fotorealistiche o artistiche da descrizioni di testo inserite dall’utente.

DALLE-E2 rappresenta una pietra miliare nell’apprendimento automatico – OpenAI afferma che il software “ha appreso la relazione tra le immagini e il testo utilizzato per descriverle”.

Include l’offerta DALLE-E2 عرض parole chiave interattive Per visitare gli utenti per giocare e creare immagini, il cambio di parole chiave diverse risulterà in immagini, stili e temi diversi.

Ma il sistema ha uno strano comportamento: lo è scrivere La sua propria lingua per disposizioni casuali di caratteri, i ricercatori non sanno perché.

Giannis Darras, Ph.D. in Informatica. Uno studente dell’Università del Texas, ha pubblicato a Tema Twitter Nuovi dettagli inspiegabili sulla lingua DALLE-E2.

Daras ha chiesto a DALLE-E2 di creare un’immagine dei “contadini che parlano di verdure” e il programma lo ha fatto, ma è arrivato il discorso dei contadini”Vicoti– Alcune parole sconosciute all’IA.

Insalata di verdure fresche, peperoni, funghi e melanzane sul tavolo della cucina — Dopo che è stato chiesto loro di comporre un’immagine di “contadini che parlano di verdure”, la lettera diceva vicootes, una parola sconosciuta all’intelligenza artificiale.

Dara nutrilo “vicootes” di nuovo nel sistema DALLE-E2 e ho ottenuto immagini delle verdure.

Quindi alimentiamo le parole: “Apoploe vesrreaitars” e prendiamo gli uccelli. Darras ha scritto su Twitter.

“Sembra che i contadini parlino di uccelli, che scherzano con le loro verdure!”

Daras e co-autore ha scritto a carta Su “Vocabolario nascosto” in DALLE-E2.

Riconoscono che dire a DALLE-E2 di generare immagini di parole – il comando “immagine del piano di parole” è un esempio di Daras – di solito si traduce in DALLE-E2 che emette “testo senza senso”.

Quando viene ricollegato al DALLE-E2, questo testo vago risulterà in immagini di aeroplani, il che dice qualcosa sul modo in cui DALLE-E2 parla e pensa.

Alcuni ricercatori di intelligenza artificiale hanno affermato che lo script ambiguo per DALLE-E2 è “rumori casuali“.

Speriamo di non scoprire che il secondo linguaggio di DALLE-E2 fosse un difetto di sicurezza che doveva essere corretto troppo tardi.

Questo articolo è apparso originariamente il Sole È riprodotto qui con autorizzazione.