Strokovnjaki s področja zasebnosti in tehnologije opozarjajo, da mnogi uporabniki sploh ne vedo, da so njihovi pogovori lahko dostopni drugim, kar sproža vprašanja o preglednosti in zaščiti občutljivih vsebin. Po poročilih medijev, kot sta PRIMICIAS in Fast Company, je javno dostopnih več sto, morda celo več tisoč klepetov v različnih jezikih, vključno z angleščino, španščino, portugalščino, nemščino, kitajščino in japonščino.
Med vsebinami, ki so na voljo prek Googla, so osebna vprašanja, zahteve za pomoč pri pisanju elektronske pošte, razlage strokovnih tem, predlogi za prenovo doma, recepti in celo analize življenjepisov. Nekateri pogovori vsebujejo tudi občutljive podatke, ki jih uporabniki morda niso želeli deliti z javnostjo.
OpenAI, razvijalec ChatGPT, se na poročila o tem še ni uradno odzval. Na svoji strani z vprašanji in odgovori sicer opozarja, da so vse povezave, ki jih uporabnik ustvari za deljenje, javno dostopne vsem, ki pridobijo povezavo. »Vsakdo, ki ima dostop do deljene povezave, lahko vidi vsebino. Prosimo vas, da ne delite občutljivih informacij,« opozarja podjetje.
OpenAI pojasnjuje, da je možno deljeno povezavo kadarkoli izbrisati ali izključiti, vendar če jo je kdo že prenesel v svojo zgodovino pogovorov, ta ostane v njegovi lasti, tudi po izbrisu.
Družba dodaja, da povezave niso bile zasnovane za prikaz v iskalnikih in da takšen prikaz v rezultatih iskanja ni privzeta nastavitev. Kljub temu se je zgodilo prav to – v iskalniku se je začelo pojavljati na stotine primerov.
Podoben incident se je že zgodil leta 2023 z Googlovo umetno inteligenco Bard, predhodnikom današnjega sistema Gemini. Takrat so se v javnosti znašle prav tako številne deljene vsebine, kar nakazuje na širši sistemski izziv pri upravljanju zasebnosti v dobi odprtih platform za umetno inteligenco.