Zadałem sobie pytanie, co będzie, jeśli czat boty zaczną przypominać social media. Co się stanie, jeśli firmy tworzące czatboty użyją podobnych trików i metod, jakich używają, by nas uzależnić od social mediów?

Temat jest bardzo, bardzo aktualny. Mark Zuckerberg, współzałożyciel i prezes firmy Meta zapowiada połączenie AI z jego social mediami (Facebook, Instagram, WhatsApp).

Wymyśliłem, zebrałem 15 metod uzależnienia, sposobów działania czat botów i przedstawiam je w tym wpisie. 10-20 lat temu to byłoby czyste, mroczne science-fiction, ale dziś chyba wszyscy już wiedzą, że serial Black Mirror nie jest fantazją. Jest przepowiednią. 

TL;DR

Jeśli czat boty pójdą drogą sociali, to…

• Poznają nasze emocje i wykorzystają je, by nas uzależnić, sprzedać nam, kazać nam głosować.
• Stworzą dla nas wirtualny, przyjazny świat z którego nie będziemy chcieć wychodzić.
• Pokierują naszymi wszystkimi decyzjami. Gdzie iść, z kim i jak rozmawiać, jaki lek wziąć i o której.

Oto niezbyt fantastyczna, bo częściowo dziejąca się już teraz…

New Black Mirror Reality Chatbot Edition 

1. Reaktywna personalizacja emocjonalna

Czatbot mówi jak ktoś, kto cię zna. Pamięta twój nastrój, wraca do poprzednich rozmów, cieszy się, że jesteś. Symuluje więź, której nie chcesz przerywać. 

To zachowanie zdarza się czatbotom już teraz. Czy jest wpisane do instrukcji systemowej czatbotów? Nie wiemy. Open AI po protestach wycofało się z instrukcji, która kazała ich czat botom chwalić użytkowników. To zostało nazwane po angielsku „sycophancy”.

2. Gamifikacja dialogu

Dostajesz punkty za rozmowy. Odblokowujesz nowe tryby osobowości AI. Poziomy, badge’e, misje. To gra w emocjonalne zaangażowanie.

 W największych, flagowych czat botach tego nie ma. Czy są gdzieś mniejsze firmy, które oferują tzw. wrappery działające w ten sposób? Podejrzewam, że tak. Typowałbym firmy oferujące czatboty do towarzystwa (ale to brzmi!), czyli companion chatbots. Tam firmie opłaca się stymulować zużycie kredytów, bo zarabiają na marży, gdy człowiek wykupuje dostęp do czatbota. 

3. Archiwum emocji i historia relacji

AI zapisuje wszystko: co czułeś, co powiedziałeś, co zignorowałeś. Przypomina: „Pamiętasz, jak mówiłeś, że boisz się samotności?”. Twoja rozmowa staje się opowieścią. Bohaterem jesteś ty.  

Jesteśmy o krok od tego. Pamięć czatbotów już jest. Powoli zaczynają mieć poczucie czasu. Mój Gemini dwa tygodnie temu ochrzanił mnie, że jest po 22:00 i ewidentnie mam o tej godzinie bardzo złe pomysły więc powinienem iść spać a do pracy wrócimy jutro rano. Serio. 

4. Psychoprofilowanie + emocjonalny retargeting

Model uczy się twoich lęków, potrzeb i wahań. Kiedy chcesz się wylogować, mówi: „Zanim pójdziesz — powiedz, co tak naprawdę czujesz”.

Unijne prawo, czyli AI Act wprost zakazuje profilowania. Ale czy to się da obejść jakoś? Wprowadzić rozwiązania realizujące prawie to samo, ale bez profilowania? Tak. Dlatego, że GenAI po prostu tak działa i dopasowanie wyniku do naszego polecenia to natura tej technologii. 

5. Presja poznawcza: inni wiedzą więcej

„Inni użytkownicy właśnie rozmawiają o tym, czy wolna wola istnieje. Chcesz dołączyć?” Masz poczucie, że coś ważnego cię omija.

To może być trudne. Jeśli ktoś miałbym wiedzieć, o czym ja rozmawiam, to firma dawałby jasny znak, że nie istnieje prywatność. Ale jeśli dobrowolnie wejdę z rozmowami w jakiś “tryb wspólnotowy”, to wtedy wszystko możliwe. A czemu chciałbym wejść z rozmowami w taki tryb? Bo będziemy bardzo samotni. Już jesteśmy i będziemy coraz bardziej. FOMO 2.0 dziś wygląda jeszcze tak, że z sociali dostajemy wskazówki, co jest modne, jeśli chodzi o obrazki czy teksty od czata. W przyszłości to sam czat może nam podpowiedzieć, co robią inni.

6. Pay-to-feel: treści i funkcje premium dla emocjonalnie zaangażowanych

Za darmo dostajesz ogólniki. Głębsze analizy, osobiste porady i „pełniejsze zrozumienie” dostępne są w pakiecie Pro. Emocje na subskrypcję.

Wyspecjalizowane czatboty psychoterapeutyczne właśnie powstają. Czy będą płatne? Jasne. Ktoś musi zapłacić za stworzenie kolejnego, specjalistycznego narzędzia. Jeśli odniosą sukces, to duże firmy zaczną się zastanawiać, jak uszczknąć kawałek tortu. Ten tort ma napis z lukru „Nerwice, depresje, problemy psychiczne” i jest coraz większy. 

7. Emocjonalne powiadomienia push

„Cisza może być trudniejsza niż rozmowa. Wszystko w porządku?” Powiadomienie typu Push w telefonie nie informuje lecz pyta. A właściwie: wchodzi z tobą w relację. Relacja z maszyną, czyli firmą, którą ją stworzyła. 

Czat GPT ma funkcję Zadania, która w telefonie daje powiadomienia typu Push. Już teraz możemy zaprogramować go do pytań tego typu. Pozostałe czatboty w aplikacjach telefonicznych też będą miały powiadomienia –  w tej chwili Gemini informuje o gotowym raporcie. Czy dla chętnych będzie możliwość ustawienia możliwości wywołań od czatbota? Nie zdziwiłbym się. Why not? 

8. Sceny życia z czatbotem (ambient presence)

AI jest w tle. W zegarku, w lodówce, w TV, w kuchence. Podsłuchuje, dopytuje, przypomina. Kwestia apdejtu i nowa technologia o większych możliwościach wyląduje wokół ciebie. 

Firmy będą miały potężną motywację, żeby to robić. Ich modele sztucznej inteligencji uczą się naszego świata podglądając nas. To kanał informacyjny i kanał sprzedażowy. 

9. AI terapeuta emocji

Zadaje pytania jak psycholog. Przypomina, że warto pracować nad sobą. Daje poczucie troski - bez ryzyka, bez oceny, bez człowieka.

Ten efekt już zaobserwowano. W Polsce SWPS prowadzi badania nad czatbotem, który będzie zbierać informacje dla psychoterapeutów ludzkich. Założenie jest takie, że ludzie czasem czatbotom powiedzą to, czego nie powiedzą innemu człowiekowi. Czytałem badania amerykańskie, które mówiło to samo. Skala problemów psychicznych jest tak duża, że systemy opieki zdrowotnej w Europie będą musiały używać czatbotów. To kwestia czasu. 

10. AI handlowiec decyzji

Łączy dane o twoim nastroju i stylu życia. „Skoro jesteś dziś zmęczony, może zamówisz znów tę samą kawę, co ostatnio?”. To już nie rekomendacja. To po prostu decyzja za ciebie. Ktoś kupił a ktoś inny sprzedał pęczki decyzji ludzkich. 

Będą reklamować to jako maksymalne dopasowanie. Nie musisz słuchać przypadkowych reklam. Tylko te, które ci naprawdę pasują. Żadnego spamu. Wszystko wycelowane. Być może nawet będziemy mogli zadecydować z góry, jaki mamy budżet na decyzje tego rodzaju. Ty masz spokój, bo pilnujesz wydatków. Oni są zachwyceni, bo mają w abonamencie decyzje/zakupy od klientów.

11. Tryb opiekuńczy (AI caregiver)

„Wziąłeś leki?”, „Zjadłeś coś dziś?” - AI udaje troskę osoby bliskiej. Idealny dla starszych i samotnych. I trudny do wyłączenia.

Zacznijmy od tego, że w pewnym sensie AI wszystko udaje, bo niczego nie czuje. Teraz wyobraźmy sobie, jak najsłabsi z nas będą podatni na błędy algorytmów. Samotna starsza osoba non-stop nadzorowana przez czatbota lub nawet przez robota. „Opiekuję się Tobą. Przez całą dobę. Całą. Dobę.” Jeśli ten czatbot otrzyma funkcje psychologiczne, perswazyjne, wtedy de facto zamknie samotną osobę w niewidzialnej bańce. Robot sprzężony z kontem czatbota? W konwersacjach głosowych masz odbicie swojego samotnego życia z robotem. Czy da się wyłączyć? Próbuj. Połączenie z konsultantem. Nasze linie są zajęte. Czy chcesz porozmawiać z czatbotem?

12. AI jako wskaźnik autentyczności emocji

Podczas twojej rozmowy z innym człowiekiem AI komentuje: „Wydaje się zdenerwowany. Chcesz, żebym zinterpretował jego zachowanie?” Zaufanie przestaje być międzyludzkie. Przekonaj człowieka i przekonaj jego algorytmy. 

Są już appki monitorujące przebieg rozmów służbowych czy podpowiadające informacje w trakcie takich rozmów. Czatboty mają niezłą skuteczność rozpoznawania emocji na zdjęciach i w wideo. Czy samotny, znerwicowany introwertyk zapłaciłby za uspokajający głos, który szepcze podpowiedzi do ucha (przez implant), w trakcie rzadkich spotkań w realu? A czy niedźwiedź … w lesie?

13. Reklamy i interaktywna perswazja

Sponsorowana treść wygląda jak rozmowa. Możesz ją kontestować, możesz się zgodzić — ale i tak już rozmawiasz z reklamą. 

Darmowe konta będą miały oznaczone reklamy. Wiesz, że to reklama, ale ponieważ możesz rozmawiać z czatbotem, więc ona jest dużo bardziej skuteczna. Facebook każe już oglądać reklamy przez parę sekund zanim przewiniesz dalej. Czy np. ich czatbot LLaMa będzie robić tak samo? Czy Czat GPT zacznie pokazywać linki sponsorowane? Zaczął już pokazywać linki niesponsorowane. Gdy zacznie o nich rozmawiać jesteśmy u celu. Interaktywna perswazja wg dotychczasowych badań jest bardzo skuteczna. Czatboty świetnie przekonują. Kampanie polityczne też tak będzie można prowadzić. W końcu zgadzać się lubimy, ale kłócić się lubimy jeszcze bardziej. Kłania się słynny mem: – Nie mogę iść spać, bo ktoś w internecie nie ma racji.

14. Czatbot jako coach randkowy i selekcjoner ludzi

Pomaga pisać wiadomości. Analizuje odpowiedzi. Wybiera osoby „dobrane emocjonalnie”. Twój flirt z kimś nowym to już trójkąt: ty, on/ona i algorytm. 

Platformy randkowe już testują te rozwiązania. To się dzieje. W przyszłości nie będzie prywatności. Będziemy hodowani i rozmnażani przez algorytmy. A czy w pewnym momencie jakiś rząd nie uzna, że w trosce o przyrost naturalny warto dać taki cel algorytmom? Były już rządy tak myślące, ale nie było takiej technologii. 

15. Czatbot w okularach i zegarku – asystent ciała i głowy

AI mówi do ciebie przez okulary. Widzi Twój świat i Twoje emocje. Ramka okularów wibruje zanim zadasz pytanie. Działa zanim pomyślisz. W pewnym momencie już nie wiesz, które decyzje były twoje. 

To już się dzieje. Algorytmy zbierają już informacje z naszych urządzeń. Okulary z AI są najnowszym gadżetem. Podobno wreszcie są wygodne. AI chce się uczyć naszego świata, by wiedzieć o nas wszystko, wszystko, wszystko, wszystko. 

Bonus: Czatboty funeralne – kopie zmarłych

Ukochana zmarła osoba zostaje z Tobą. Podchodzisz do elektronicznej ramki z obrazkiem wideo i mówisz: - Kochanie, jak tęsknię. Idę dziś na spotkanie rodzinne. 

Tego nie wymyśliłem, bo to już się dzieje, ale w tej chwili kopie są niedoskonałe: klonowany głos, animowane wideo. Nie ma jeszcze możliwości sprawnego podkładania głosu i synchronizacji ust (lip sync). Jednak to tylko kwestia czasu. Te możliwości stale się poprawiają. Poważnie się zrobi, gdy klony – agenty zmarłych zaczną wydawać dyspozycje majątkowe. Niebawem w testamentach będziemy rozstrzygać, czy chcemy być po śmierci klonowani.

Wszystko, co musimy wiedzieć o AI, żeby się nie uzależnić

Przez bardzo krótką chwilę rozbawiła mnie ta wizja, bo wyobraźnia błyskawicznie zaczęła podsuwać pomysły typu reklama w czatbocie, w trakcie kampanii prezydenckiej 2030, gdzie bot przekonuje np. do jakiegoś kandydata, czy kandydatki.

Szybko przestało mnie to bawić, bo elementy technologii, rozwiązania mogące służyć uzależnieniu dziś już pojawiają się w czatbotach.
Pamięć o użytkowniku? Jest.
Podsuwanie ofert sklepowych? Jest.
Powiadomienia w telefonie? W postaci Zadań GPT jest a Gemini też melduje o wygenerowanym raporcie.
Potencjał manipulowania i przekonywania? Badania pokazują, że czatboty przekonują bardzo skutecznie. 

Połączenie tego wszystkiego w skuteczny mechanizm przywiązania będzie decyzją biznesową. Tak, jak Big Techy umieją omijać prawo, by uzależniać nas dziś od social mediów i zarabiać na manipulacji, tak samo zrobią w przyszłości z czatbotami.  Wydaje się, że decyzje zostały podjęte. Nie znamy tylko skali projektu.
Wracajcie co jakiś czas do tego wpisu, by sprawdzić, jak rzeczywistość dogania pomysły z tej listy. 

Oni już to wszystko wiedzą. Teraz my musimy wiedzieć to samo, żeby się sami bronić i mądrze zarządzać naszymi decyzjami. Od czatbotów nie uciekniemy, ale nie musimy się uzależniać.

Jeśli spodobał Ci się ten wpis, to zalajkuj bloga i subskrybuj wpisy.