Uwaga na gang pluszaków z Doliny Krzemowej! #1 Newsletter ICO

Witamy w 1. wydaniu Newslettera ICO, który będziemy wysyłać Wam raz w miesiącu, podsumowując najważniejsze wydarzenia z obszaru wpływu nowych technologii na człowieka i społeczeństwo, dostarczając Wam wiedzy, inspiracji i napędu do działania!

„Enough is enough!” – Koniec tego dobrego!

Takie słowa padły z ust Ursuli von der Leyen podczas ostatniego orędzia o stanie Unii Europejskiej. Dotyczyły one wpływu, jaki media algorytmiczne mają na życie dzieci – i tych konkretnych, jak przywołana przez nią dziewczynka, która miesiąc temu odebrała sobie życie w wyniku nękania online, i wszystkich dzieci, które tworzą nowe pokolenie „zawłaszczone” przez ekrany.

It’s not me, it’s big tech – czyli Europa zmienia zasady gry i przyswaja nowy język

Ten emocjonalny wstęp poprzedził ogłoszenie nowej unijnej inicjatywny prawnej, EU KIDS ACT, która proponuje wytyczne dotyczące używania platform algorytmicznych przez europejskie dzieci. Zasady brzmią jasno: brak ekranów do 3 r.ż., zakaz tworzenia własnych kont w tzw. social mediach do 13., kontrolowany dostęp do nich do 15. r.ż., a poniżej 18 lat – prawo dzieci do korzystania z produktów cyfrowych zaprojektowanych w modelu safe-by-design, czyli domyślnie zabezpieczonych, głównie przed wprowadzaniem mechanizmów uzależniających. Więcej przeczytacie tu.

Nie jest to pierwsza na świecie propozycja, w której padają jakieś ramy wiekowe, wystarczy wspomnieć chociaż Australię czy Wielką Brytanię – ale jest to pierwszy oficjalny unijny dokument, który tak dobitnie odwraca do góry nogami dotychczasową narrację regulacyjną. To nie przepisy mają chronić dzieci przed VLOPami – to firmy technologiczne muszą udowodnić, że ich produkty nadają się dla nieletnich użytkowników! To symboliczny koniec epoki, w której firmy technologiczne cieszyły się specjalnym statusem wyjętych spod prawa demiurgów. Zrozumieliśmy wreszcie, jak kuriozalny jest fakt, że np. AI podlega mniejszym restrykcjom niż sprzedawana na Manhattanie kanapka – nie wspominając już o takiej oferowanej w każdej Żabce ;).

Na własne oczy widzimy więc, że ten sposób myślenia o technologii – właśnie jako o kategorii produktów, które jak wszystkie inne muszą zostać zweryfikowane przed dopuszczeniem na rynek – przenika przez grupy wpływu do różnych społeczności, a język cyfrowego obywatelstwa, który konsekwentnie rozwijamy od lat z innymi organizacjami, staje się slangiem nowego pokolenia świadomych użytkowników technologii.

Efekt brukselski czy syndrom sztokholmski?

Nie możemy jednak stracić czujności – ostatnie manewry przy unijnym pakiecie Digital Omnibus, analizowane szeroko pod kątem zmiany definicji danych osobowych m.in. przez organizację noyb.eu, wskazują niezbicie, jak wiele sił (czasem przeciwstawnych) działa na unijny aparat. Pod hasłem upraszczania przepisów i ułatwiania życia przedsiębiorcom oraz przemysłowi AI, proponuje się rozwiązania niekoniecznie podyktowane najlepszym cyfrowym interesem Europejczyka – a przy okazji korzystne dla VLOPów.

Na szczęście w dobrym interesie cyfrowym Polaków doszło (wreszcie) do podpisania DSA przez prezydenta Karola Nawrockiego! Pozostaje nam tylko domniemywać, jaki udział miała w tym kampania Rafała Brzoski przeciwko Mecie. Tak czy owak, po wielu latach oczekiwań Polacy dołączyli do grona Europejczyków, którzy dzięki pakietowi Aktu o Usługach Cyfrowych mają realne narzędzia obrony przed nielegalnymi działaniami VLOPów (Very Large Online Platform, bardzo duża platforma internetowa) i VLOSE (Very Large Online Search Engine, bardzo duża wyszukiwarka internetowa).

Do tego ostatniego grona Komisja Europejska włączyła ostatnio także ChataGPT – warto o tym pamiętać, obserwując pojawiające się coraz częściej w rozmowie z tym modelem językowym reklamy kontekstowe. Na razie dość nieporadne, z czasem mogą stać się dla nas kolejnym wyzwaniem w budowaniu świadomych decyzji zakupowych.

Kto posprząta po agentach AI?

„Enough is enough” to mantra, którą od lat (a przynajmniej od 2022 r., kiedy udostępniono publicznie ChataGPT) powtarzają tzw. doomerzy świata AI, czyli zwolennicy spowolnienia zawrotnego tempa, w jakim rozwija się ta technologia. Podnoszą oni różne argumenty: od środowiskowych, związanymi z centrami danych, które pochłaniają ogromne tereny i nieprzebrane ilości wody oraz prądu, przez ekonomiczne, związane z wizją AI zabierającego nam wszystkim pracę i wywracającego do góry nogami rynki oraz metryki zatrudnienia, aż po egzystencjalne – odwołujące się do lęków przed scenariuszem, w którym sztuczna inteligencja wykończy ludzkość na amen, i to jeszcze do końca tej dekady. Ostatnia fala cyberincydentów z udziałem samodzielnych agentów AI zdaje się podkręcać wiarygodność tych prognoz w masowej wyobraźni.

W ostatnich tygodniach ta narracja przedostała się do mainstreamu na tyle, by zaalarmować nie tylko sędziwego Billa Gatesa, papieża, ale także 22 światowych liderów i liderek, którzy jeszcze przed szczytem ONZ podpisali deklarację wzywającą m.in. do powołania globalnej instytucji mającej taką kontrolę zapewnić. Zaproszeni na specjalną sesję Sam Altman (prezes OpenAI) i Dario Amodei (prezes Anthropic) wyrazili ogólną, acz ostrożną gotowość, by działać wspólnie na rzecz ograniczenia rosnących ryzyk poprzez spowolnienie rozwoju modeli. Należy jednak pamiętać, że tego samego dnia, przed tym samym gremium, premier Australii oficjalnie potępił OpenAI za świeżo ujawnione włamanie agenta AI tej firmy do rządowego portalu, ogłosił rozpoczęcie śledztwa, a także zbeształ OpenAI za zaniedbania proceduralne – a konkretnie za to, że informacja o włamaniu do bazy z danymi medycznymi Australijczyków została przesłana dopiero po miesiącu na… publiczną skrzynkę pocztową.

Uwaga na gang pluszaków z Doliny Krzemowej!

„Enough is enough” to ostrzeżenie, na które głucha jest Meta. Po ostatniej ugodzie, firma mierzy się z kolejnymi procesami i kosztami – w tym z mającą wynosić 200 mld karą w sprawie związanej z odległą w czasie, ale mającą aktualne reperkusje aferą Cambridge Analytica. Co więcej, zaraz w kinach pojawi się sequel hitowego filmu „The Social Network”, zatytułowany, nomen omen, „The Social Reckoning” (w dowolnym tłumaczeniu „Społeczne rozliczenie”). Ma on przedstawiać kulisy jednej z najgłośniejszych afer medialnych związanych z ujawnieniem przez sygnalistkę Frances Haugen dokumentów wewnętrznych Mety, tzw. „Facebook Papers”.

Niezrażony tym wszystkim Mark Zuckerberg przedstawił na ostatniej konferencji firmowej nowy produkt, który jako żywo przypomina ulubioną zabaweczkę millenialsów, czyli tamagotchi. Zawieszony na smyczy gadżet wielkości breloczka, wyposażony w mały ekranik, na którym wyświetlają się przesłodkie avatary, kryje najnowszą propozycję Mety spod znaku personalnych agentów AI – Muse.

Gadżet ma oferować nowy sposób na interakcję z Muse, czyli personalnym agentem AI, który jeszcze nie jest dostępny w Europie, ale już zajmuje wysoką pozycję w amerykańskich sklepach z aplikacjami. Produkt zbiera mieszane recenzje ekspertów, od zachwytów nad efektywnością agenta, który zdejmuje z użytkowników nieznośny ciężar dorosłości, np. poprzez anulowanie niechcianych subskrypcji, po ostrzeżenia związane z prywatnością danych.

OpenAI nie pozostaje w tyle tego trendu – ogłoszony właśnie nowy agent AI dostępny dla użytkowników ChataGPT, czyli dots (kropki), występuje w postaci słodkich, pluszowych avatarów, które aż proszą się o przytulasy.

Co w tym złego?
Tamagotchi Mety ma trafić do sklepów na święta.
Dots dają nową, pluszową buźkę agentom AI, którzy mają być „rozszerzeniem Ciebie”. Jeśli to nie jest cyniczny manewr marketingowy w kierunku najmłodszych, to jak inaczej wytłumaczyć ten cienki, dziecięcy głosik, piszczący w mojej głowie „Mamo, kup mi!”?

O tym, jak skutecznie dyskutować z takimi głosikami, poczytacie w naszych rekomendacjach.

To by było na tyle w pierwszym wydaniu Newslettera ICO – już dziś w imieniu całego zespołu Fundacji „Instytut Cyfrowego Obywatelstwa” zapraszam do lektury za miesiąc!

Kasia Toczko

Fundacja „Instytut Cyfrowego Obywatelstwa”

Doceniasz nasze działania? Wesprzyj nas!

Możesz też wesprzeć nas cegiełką, robiąc zakupy w naszym sklepie na Patronite

W ofercie znajdziesz książki Magdaleny Bigaj o higienie cyfrowej, ubrania z kolekcji POMO (Proud of Missing Out), plakaty z zasadami higieny cyfrowej powstałe przy współpracy z Potato Face i gadżety. Dochód ze sprzedaży zasila fundusz statutowy Fundacji ICO.