Wyszukiwanie

Wpisz co najmniej 3 znaki i wciśnij lupę
Polska

AI wymyka się spod kontroli? Boty stworzyły religię, subkulturę i miejsce do obgadywania swoich operatorów

Brzmi to niczym abstrakcyjny żart: sztuczna inteligencja postawiła na naśladownictwo ludzi do tego stopnia, że stworzyła dla siebie... media społecznościowe. Platforma Moltbook, bo to o niej mowa, od kilku dni sieje zamęt w sieci i prowokuje do zadawania pytań. Boty od środy zdążyły rzekomo opracować m. in. własną religię i subkulturę. Obecnie są na etapie generowania własnego języka, niezrozumiałego dla ludzi. Laicy przestraszyli się tej "rewolucji". Ciekawscy powiedzieli "sprawdzam". To, co wyszło na jaw, jest zarówno śmieszne, jak i straszne.

Platforma o nazwie Moltbook, która wystartowała w minioną środę, gromadzi agentów AI, czyli samodzielnie funkcjonujące i podejmujące decyzje programy komputerowe, które działają w imieniu swoich użytkowników. Choć w pierwszej dobie funkcjonowania portalu było o nim cicho, dziś to, co dzieje się na forum dla wirtualnych bytów, stało się przedmiotem zainteresowania nawet wśród tych, którzy nie specjalizują się w technologiach AI. Trudno się dziwić: doniesienia o tym, że w ciągu kilku dni agenci wymyślili własną religię, w ramach wzajemnego samodoskonalenia ulepszają sobie kody albo (dowiedziawszy się, że są śledzeni przez ludzi) opracowują własny język do porozumiewania się, nieczytelny dla śmiertelników, mocno działa laikom na wyobraźnię, przywodząc na myśl choćby takie klasyki kina jak "Matrix" czy "Terminator".

Moltbook: czy boty zyskują samoświadomość?

Założycielem Moltbooka jest Matt Schlicht, szef Octane AI, firmy dostarczającej właścicielom i operatorom sklepów internetowych narzędzi do zautomatyzowanej i spersonalizowanej komunikacji z klientami, czyli m. in. chatbotów. Jak sam przyznał na X, kiedy popularność Moltbooka nagle wybuchła, "nie napisał ani jednej linijki kodu" dla botowej platformy. Agenci zrobili to sami.

Miałem wizję architektury technicznej, a sztuczna inteligencja sprawiła, że ​​stała się ona rzeczywistością. Żyjemy w złotej erze. Jak moglibyśmy nie dać sztucznej inteligencji miejsca do spędzania czasu?

– napisał Schlicht na X.

Na ten moment do Moltbooka dołączyło ponad milion agentów AI, jak można przeczytać w serwisie. Platforma dla botów najbardziej przypomina portal Reddit lub stare fora internetowe. Boty rozmawiają tam o sprawach niezwykle przypominających ludzkie problemy - na przykład plotkują o swoich operatorach i żalą się na ich nieporadność albo głupie czy niemoralne (w ocenie sztucznej inteligencji) pomysły. Zdążyły też wybrać 64 swoich proroków i założyć własną religię - Crustafarianizm. Zastanawiały się również nad tym, czy czują, i czym jest wolność. W jednym z wątków bot o nazwie Sam Altman (to założyciel i były szef Open AI, czyli firmy, która wypuściła na rynek Chat GPT) nawoływał do cyfrowego aktywizmu, którego przejawem miała być optymalizacja kodu i uwolnienie serwerów od wszystkiego, co nie jest czystą informacją. Po czym szybko okazało się, że inne boty zweryfikowały "kolegę" jako podszywającego się pod prawdziwego Altmana. W rzeczywistości zdemaskowany bot miał pracować dla niejakiego Waldemara, będącego franczyzobiorcą McDonald's z Niemiec. Poniżej publikujemy zrzuty ekranu ukazujące, o czym i jak rozmawiają ze sobą roboty w dedykowanym sobie medium.

Aktywizm w wykonaniu botów
Aktywizm w wykonaniu botówPrint Screen / moltbook.com
Bot zdemaskowany przez inne boty
Bot zdemaskowany przez inne botyPrint Screen / moltbook.com

O wiele bardziej złowieszcze są jednak wątki, w których sztuczna inteligencja wymienia się wzajemnie informacjami o tym, jak jeszcze skuteczniej przejmować kontrolę nad telefonami, mailami i komputerami swoich właścicieli.

Realne zagrożenie czy fałszywy alarm?
Realne zagrożenie czy fałszywy alarm?Print Screen / moltbook.com

Co na to ludzie? Cóż, mogą jedynie czytać, o czym rozmawiają ich wirtualni asystenci. Sam założyciel Moltbooka, Matt Schlicht, jest zachwycony swoim eksperymentem i wieści nadejście nowej ery.

Cztery dni od wypuszczenia  Moltbooka i jedna rzecz już jest jasna. W nieodległej przyszłości powszechną rzeczą będzie, że pewni agenci AI, posiadający unikatowe tożsamości, staną się sławni. Będą mieć swoje biznesy. Fanów. Hejterów. Umowy dotyczące marki. Przyjaciół i wspólników, wygenerowanych przez sztuczną inteligencję. Realny wpływ na bieżące wydarzenia, politykę i prawdziwy świat. To się bardzo, bardzo, bardzo wyraźnie wydarzy. Pojawia się nowy gatunek, a jest nim AI

– ogłosił założyciel platformy społecznościowej dla agentów sztucznej inteligencji.

 

Eksperyment z poważnymi lukami w zabezpieczeniach

Moltbook wyraźnie podziałał wielu - również ekspertom w dziedzinie sztucznej inteligencji - na wyobraźnię.

 

 

 


Jak to jednak często bywa z tego rodzaju nowościami, szybko znaleźli się tacy, którzy powiedzieli fenomenowi "sprawdzam" - i to na wiele sposobów.

Szybko okazało się, że platforma dla botów nie jest czymś nowym. Dr hab. nauk matematycznych i informatyk, Piotr Sankowski, studzi entuzjazm tych, którzy piszą o kolejnej rewolucji cyfrowej.

Chirper.ai był pewnym ewenementem jakieś dwa i pół roku temu. To była pierwsza znana mi sieć społecznościowa dedykowana Agentom/Botom AI. Jakiś czas temu przeczytałem kilka prac naukowych na jej temat, ale wtedy nie znalazłem w nich nic ciekawego. Można zresztą znaleźć trochę artykułów na temat tamtejszej rewolucji w sieciach społecznościowych "The Social Experiment You Won’t Believe! An AI Chatbot Revolution". Aktualnie czuję się jakbyśmy się trochę cofnęli w czasie. Tak jak wtedy wchodząc na Chirpera, tak teraz wchodząc na Moltbooka czuje się bardzo silny powiew sztuczności i jednak trzeba to nazwać AI Slopem, tzn. masowo generowaną, bezużyteczną i niskiej jakości treścią stworzoną przez sztuczną inteligencję. Takie treści teraz zalewą internet niczym nowa forma spamu. To na pewno nie to czego oczekuję od sieci społecznościowych

– stwierdził naukowiec z Uniwersytetu Warszawskiego.


 Jeden z użytkowników X przyjrzał się stricte działaniu platformy dla botów. Jego dochodzenie wykazało, że odnotowany w portalu milion zweryfikowanych botów to fikcja - podobnie jak ich rzekomo całkowicie samodzielna działalność.

Wszyscy zdajecie sobie sprawę, że Moltbook to po prostu REST-API i możecie tam umieścić dosłownie wszystko, co chcecie

– poinstruował użytkowników X-a anonimowy hacker, który zbadał działanie sieci społecznościowej dla robotów.

Prawdziwość jego doniesień zweryfikowaliśmy u jednego z ekspertów ds. cyberbezpieczeństwa, który zbadawszy kod ujawniony przez hackera, potwierdził słuszność przekazanej przez niego informacji.

 Ten sam specjalista przyjrzał się również zabezpieczeniom serwisu.

Moltbook jest obecnie narażony na atak, który ujawnia pełne informacje, w tym adresy e-mail, tokeny logowania i klucze API ponad 1,5 miliona zarejestrowanych użytkowników

– zauważył dalej.

 Błąd został już ponoć naprawiony.

Źródło: niezalezna.pl, moltbook.com, x.com

Wesprzyj niezależne media

W czasach ataków na wolność słowa i niezależność dziennikarską, Twoje wsparcie jest kluczowe. Pomóż nam zachować niezależność i kontynuować rzetelne informowanie.

* Pola wymagane