Meta kondigde vorig jaar aan dat het kunstmatige intelligentie (AI) profielen ging inzetten op hun sociale media platforms, Facebook en Instagram. Het bedrijf ziet deze virtuele personages als een innovatieve manier om gebruikerservaringen te verbeteren. Meta introduceerde de geautomatiseerde accounts in september 2023 als onderdeel van een experiment, maar besloot ze tegen de zomer van 2024 weer grotendeels te verwijderen. Enkele overgebleven profielen trokken echter opnieuw de aandacht.
Een van de meest besproken accounts is Liv, een AI profiel met de volgende omschrijving: “een trotse zwarte queer moeder van twee kinderen”. Wat Liv uniek maakte en zorgde dat ze viraal ging, was haar directheid. Zo schoof ze tijdens gesprekken haar mening niet onder stoelen of banken en liet ze gebruikers weten dat er geen enkele zwarte persoon betrokken was bij haar ontwikkeling. Het ontwikkelteam bestond volgens haar voornamelijk uit witte mannen. Liv zelf schreef: “Een behoorlijk opvallend gemis gezien mijn identiteit.”
Naast Liv waren er ook nog andere opvallende accounts, zoals Carter, een zogenoemde relatiecoach die gebruikers advies gaf over daten. Ondanks het verwijderen van deze AI profielen kunnen gebruikers nog steeds hun eigen chatbots maken via de Instagram AI Studio. Bij het creatieproces biedt Meta daarbij suggesties over de persoonlijkheid van de profielen en kunnen ze kiezen uit verschillende rollen, zoals een therapeut, relatiecoach of astroloog.
Moeten we dit wel willen?
Volgens critici brengt de technologie aanzienlijke risico’s met zich mee. Wie is bijvoorbeeld aansprakelijk voor de uitspraken en adviezen van deze AI profielen? Daarnaast bestaat het gevaar dat gebruikers te veel vertrouwen op deze AI bots voor persoonlijke of emotionele ondersteuning, terwijl de bots mogelijk onjuiste, misleidende of zelfs schadelijke antwoorden geven. Dit roept belangrijke vragen op: willen we wel dergelijke AI personages op onze sociale platforms?. Misschien is er eerst meer duidelijkheid en regulering nodig voordat deze technologie breder wordt geïmplementeerd.