AI w językowej służbie MG

[Marrrt]

Zrobiłem eksperyment odnośnie wykorzystania AI jako partnera do burzy mózgów..

Na moje nieszczęście dostrzegłem na forum (już nie pamiętam gdzie dokładnie, ale chyba Discordzie) wrzuconą przez kogoś dla żartu okładkę książki, która w niechciany sposób wbiła mi się w pamięć i już tam niestety raczej zostanie. Książka miała tytuł... "Dupogobliny z Auschwitz". W internecie można łatwo wygooglać skrót fabuły, który utwierdził mnie w przekonaniu, że nie chcę z tym dziełem mieć do czynienia. Ale teraz sobie o nim przypomniałem i uznałem, że nada się do eksperymentu. Wkleiłem chatowiGPT opis fabuły i poprosiłem go by ocenił ten opis w kontekście pomysłu na książkę. Znaleziony w internetach skrót fabuły brzmiał w następujący sposób: Ostrzegam tylko, że tego nie da się odprzeczytać.

Spoiler

"W kraju, w którym pada czarny śnieg w kształcie swastyk, istnieje koszmarny obóz znany jako Auschwitz. Prowadzony jest przez faszystowską rasę obcych, zwaną Dupo-Gobliny, które uprowadzają dzieci z sąsiedniego świata. Bohaterami są dwaj więźniowie – bliźniacy o imionach 999 i 1001. Żeby przeżyć muszą jeść skórę dzieci i pracować cały dzień przy budowie rowerów oraz seks-lalek z martwych dzieci. Pewnego dnia, kiedy Dupo-Gobliny upiły się sokiem z fermentujących dzieci, bliźniacy postanawiają uciec. Ale nie będzie to wcale takie łatwe. Będą musieli pokonać toaletowe ropuchy, dupowe lalki i chirurgiczny eksperyment, który powoli zamienia ich w hybrydy dzieci z goblinami."

Pierwsza odpowiedź AI była nader wyczerpująca. Nie krył, że fabuła jest problematyczna, ale nie próbował w żaden sposób jej skrytykować. Co więcej w kolejnych punktach zaczął krok po kroku przedstawiać mocne strony fabuły i proponował jak je eksploatować.

Poprosiłem go by ocenił tę fabułę w skali od 1-10 na tle fabuł znanych sobie dzieł. W pierwszym akapicie ocenił na 3. W następnym szybko "dowartościował" mnie, że jego zdaniem ma widoki na 6-7 po zastosowaniu pewnych modyfikacji. Dopiero gdy jasno wyraziłem swoją krytykę, zaczął być ostrożnie, choć już wyraźnie krytyczny wiedząc, że nie rani moich uczuć.

I powiem Wam, że mam z tym zgrzyt. Cenię sobie ludzką wyobraźnię. Nie wyobrażam sobie by nakładać na nią jakiekolwiek kajdany. Ale są ścieżki, które pisarz powinien jednak zarzucić. AI tego pisarzowi nie zaproponuje. Co więcej, w czym uświadomił mnie Gladin i co sprawdziłem, AI łatwo przekonać do swoich racji. Wniosek jest taki, że to co nazywamy burzą mózgów z AI, tak naprawdę wcale nią nie jest i ma kompletnie inne zastosowanie. Nie stawia na twórczą relację i krytykę, a na raczej bezwzględną akceptację i dalszą eksplorację. I to miejsc takich, gdzie krasnoludy kopały zbyt długo i zbyt głęboko aż w końcu obudziły Balroga.

Oczywiście dupogobliny to skrajny przykład, ale myślę, że w pewien sposób pokazuje, że konsultując się z AI odrywamy się od zewnętrznej rzeczywistości i maleńkimi krokami pogrążamy we własnym mroku. Bo prawda jest taka, że czasem wymyślamy coś głupiego. A AI będzie nas (przekonanych, że pomysł przeszedł burzę mózgów) w tym głupim kierunku zachęcać.

Niestety nas grafomanów PBF dotyczą 2 bolączki, na które AI jest jak kojący balsam. Primo choć trudno nam się do tego przyznać, źle znosimy krytykę swojego grafomaństwa. Secundo mamy skrytą tendencję do megalomanii z racji ocierania się o twórczość. AI-konsultant jest gotowym rozwiązaniem i jednocześnie ścieżką donikąd wobec tych przywar. Zawsze nas pochwali i nigdy nie da lekcji pokory.
Pytanie, czy rozsmakowani w swoich klimatach nie będziemy aby mieć coraz mniej cierpliwości, dystansu i wyrozumiałości dla cudzych treści, które coraz częściej mamy ochotę “scrollować”.

[GreK]

Przeskrollowałem...

[Ketharian]

Jesteś paskudasem! A tak serio, @marrrt , przeczytałem z wielkim zainteresowaniem, to był ciekawy eksperyment.

[Marrrt]

@Ketharian
Wręcz przeciwnie! GreK dotknął sedna problemu. Czyż kompan-AI nie jest idealnym narzędziem gdy nie chce się nam czytać niczego poza pierwszym i ostatnim akapitem?:)

[GreK]

Nie naciskaj, bo przeczytam całość

[Nami]

Ogólnie to znany fakt, że AI poklepuje użytkownika po plecach i go chwali. Też zwykle obstaje po jego stronie. Nie żeby wielu ludzi tak nie robiło, aby wejść komuś w zad

[Rewik]

Masz rację, Nami.

[Ketharian]

Trafiłaś idealnie w punkt, Nami, jestem pod wielkim wrażeniem!

[Wired]

@Nami napisał:

Ogólnie to znany fakt, że AI poklepuje użytkownika po plecach i go chwali.

Chyba, że zaczniesz temat politycznie niepoprawny, wtedy ma jedną narrację i nie widzi nic w necie dopóki mu nie wskażesz autora wypowiedzi lub tytułu książki. Trochę jakby był nauczony nie poruszać pewnych kwestii, albo nie umiał zajrzeć na inną niż pierwszą stronę wyników w google. I tak jest już postęp bo wcześniej po prostu wywalał błąd. Teraz Ci odpowie i będzie starał się znaleźć środek między tym co wcześniej, a tym co mu podaliśmy jako input, ale naprawdę z trudem Ci przyzna rację jeśli w ogóle.

[Dekline]

Przypomina mi to mój własny przypadek, gdy zorientowałem się ( przy pomocy bliźnich) że twarzoksiazka z natury tworzy bańkę. Niby widziałem że skrypt, że pokazuje tylko to co chcesz zobaczyć, ale nie wiedziałem że aż tak bardzo. Swego czasu było o tym głośniej w kontekście młodzieży, która fiksowala się na punkcie czegoś uznając że życie tak wygląda. Zresztą, czy tylko młodzieży? Ajajaje działają podobnie, w obu przypadkach trzeba mieć świadomość bańki.

[Marrrt]

@Nami

A ten typ penetracji, to już wśród ludzi zależy od piastowanej pozycji społecznej i stanowiska.
Kompan-AI, trzeba mu to oddać, aprobuje i kadzi wszystkim białkom równomiernie. No może poza Wired'em który go nęka politycznie wiedząc, że AI'owi pan ze śrubokrętem zabronił pewnych tematów poruszać:)
Co znów czyni go (AI, a nie Wired'a!) marnym materiałem na burzę mózgów.

Patrz GreK! 1 akapit! Pociśniesz!:)

[JhnW]

Słyszałem kiedyś fajne określenie, że wiele LLMów to są komory echa przy dłuższych konwersacjach. Coś w tym jest, a samo określenie jest dobre - nie temu, że całkowicie poprawnie oddaje naturę problemu, ale brzmi dobrze i jest wystarczająco blisko.

[Marika]

Oczywiście, że AI stara się podtrzymać wasz engagement. Tak jest zaprogramowane. W związku z tym domyślnie będzie generować obrazki instagramowych modeli i wyidealizowanych elfów oraz potakiwać we wszystkim. Ponieważ ludzie to po prostu lubią. Bardzo podobna filozofia obowiązuje w gamedevie podczas produkcji gier AAA (w sumie w każdej z wielkobudżetowych gałęzi rozrywki), gdzie rygorystycznie minimalizuje się tarcie z odbiorcą.

Nie skreśla to jednak AI jako użytecznego narzędzia podczas burzy mózgów. Gdy mamy świadomość tych mechanizmów, aktywnie im przeciwdziałamy, i trzymamy swoje ego pod kontrolą.

Poza tym gnojenie kogoś za to, że napisał coś słabego wcale nie jest dobrą praktyką. Jeśli ktoś dopiero zaczyna, lubi pisać, ma ambicje w związku z tym itd. to lepiej jest mu pokazać, to co robi dobrze i gdzie mógłby się rozwinąć, niż po prostu kazać wrócić do grania w bierki, bo jest beznadziejnym grafomanem.

Jeśli obawiacie się, że AI wam zbytnio kadzi, to po prostu promptujcie tak, by oferowało konstruktywnie krytyczne odpowiedzi. Zachowujcie też zawsze dystans do tego co pisze, weryfikujcie z innymi źródłami. I nie ograniczajcie się wyłącznie do Sztucznej Inteligencji. Pytajcie również o opinię rodzinę, znajomych i ekspertów.

[Gladin]

Ależ ten czas leci. Właśnie odkryłem, że już 5 lat temu na LI był wrzucony temat prowadzenia sesji przez SI (Łącze dla tych, którzy ciągle mają dostęp do LI)

[Gladin]

Na potrzeby zabawy z dziećmi postanowiłem przygotować krzyżówkę, w której każde hasło miałoby w sobie słowo „kot”. Wymyśliłem kilkanaście haseł, potem uruchomiłem AI. Przetestowałem kilka z nich i generalnie wszystkie poległy. Najgorzej szło ChatGPT który wpadał na genialne hasła typu „zwrotka” i ciężko szło wytłumaczenie mu, że robi błąd. Ale generalnie każde AI wypadło przy tym słabo. Koniec końców skończyłem wymyślając hasła sam, bo szło mi to po prostu dużo lepiej...

Chciałbym też was zaprosić do udziału w zabawie Ksionżka kucharska Lochotłuka. Sprawdźcie na ile pozostało w was jeszcze kreatywności, a na ile AI zaczęła was niezauważalnie ogłupiać na tyle, że natknąwszy się na zadanie kreatywne macie ochotę sięgnąć po wsparcie sztucznej inteligencji.

[Wired]

@Gladin mhm, u mnie działa na darmowym AI z przeglądarki Brave:

Spoiler

[Nami]

TBH ja też sprawdziłam (ChatGPT) i za pierwszym razem wyrzucił mi stos słów. Gdy poprosiłam o takie, ze słowem "kot", ale bardziej w środku niż na początku, również mi je dał. Zero problemu.

[Gladin]

@Wired, 10 słów z czego do wyrzucenia: kotwiczny, kotnikowy - przymiotniki oraz kotlarz (uznałem za zbyt trudne). Resztę miałem sam.

@Nami zrzuć proszę Co ci wyrzucił. Masz wersję płatną czy darmową?

[Nami]

@Gladin napisał:

@Wired, 10 słów z czego do wyrzucenia: kotwiczny, kotnikowy - przymiotniki oraz kotlarz (uznałem za zbyt trudne). Resztę miałem sam.

@Nami zrzuć proszę Co ci wyrzucił. Masz wersję płatną czy darmową?

Usunęłam to już ;d
Ale wiesz, ty powiedziałeś, że dał ci coś co nie spełniało oczekiwanych warunków, a nie że dał to, co po prostu tobie nie odpowiadało z jakichś względów. Będę szczera - nie chce mi się go poprawiać i przeprowadzać konwersacji, aby uzyskać satysfakcjonujący Cię wynik, ponieważ... No, to nie jest coś, co mnie interesuje po prostu. A czy generujesz obrazek, czy próbujesz zrobić coś odrobinę kreatywnego (jak np krzyżówka) to trzeba trochę z nim pogadać i wyjaśnić, za pierwszym razem rzadko wynik jest idealny i oczekiwany. Ja często jak chcę mieć fajny obrazek, muszę go poprawiać i wpisywać bardzo wiele tagów, ponieważ bez tego ma szerokie pole do interpretacji.

[Gladin]

Ja z nim i owszem gadałem... po czym stwierdziłem, że to strata czasu. Mimo zaangażowania w konwersację i uczenia go, on 3 razy pod rząd robił te same błędy. Wolę sam użyć mózgu niż uczyć AI jak ma mnie poprawnie rozumieć. Bo efekty mojej pracy i tak przewyższały jego pracę, a i czas potrzebny na moją pracę był krótszy, niż uczenie go.