Privégesprekken met chatbot Claude plots online gepubliceerd

©Aerps.com via Unsplash

Honderden privégesprekken met de populaire AI-chatbot Claude van Anthropic waren recentelijk voor iedereen online te lezen. De chats, soms met persoonlijke en werkgerelateerde informatie, verschenen plots in zoekresultaten van Google wanneer gebruikers een specifieke zoekopdracht gebruikten.

Het probleem ontstond doordat gebruikers de optie hadden om een link naar hun chatgesprek te delen. Zoekmachines als Google indexeerden deze links, waardoor ze voor het grote publiek toegankelijk werden. Anthropic heeft het probleem inmiddels verholpen door de links uit zoekresultaten te verwijderen, maar veel gesprekken waren toen al opgeslagen en verspreid.

Een woordvoerster van Anthropic benadrukte dat gebruikers zelf beslissen of en wanneer ze gesprekken delen. “Links zijn niet te raden of te vinden tenzij mensen ze zelf delen”, aldus de woordvoerster. “Wanneer iemand een gesprek deelt, wordt die content publiek toegankelijk en kan deze, net als andere publieke webcontent, worden gearchiveerd door derden.”

Opgepast voor 'deelfunctie'

De deelfunctie binnen Claude waarschuwt wel dat “iedereen met de link” de inhoud kan zien, maar vermeldt niet expliciet dat de link in zoekresultaten kan opduiken. Gebruikers op Reddit ontdekten de openbare chats, die meer dan 200 gesprekken besloegen over ten minste 25 pagina’s zoekresultaten – sommige slechts enkele weken oud. De gesprekken varieerden van alledaagse vragen tot gevoelige informatie. Zo deelden gebruikers cv’s met namen en contactgegevens, en voerden ze proprietary research uit, inclusief transcripties van privégesprekken in de zorg. Een gebruiker vroeg Claude zelfs hoe hij in een “negenvoetige vos” kon veranderen.

Het incident doet denken aan eerdere problemen bij OpenAI’s ChatGPT en Elon Musks Grok, waar ook chatlogs openbaar werden. Google liet weten geen controle te hebben over welke pagina’s publiek zijn, maar dat website-eigenaars zelf kunnen bepalen of content wordt geïndexeerd.

©Aerps.com via Unsplash