AI w językowej służbie MG

[Ehran]

@Gladin, z samochodem miałem na myśli raczej użycie z konieczności, a nie z wygody, żeby oszczędzić sobie pięć minut. Choć... gdy pada, wszędzie błocko albo upał taki, że oddychać ciężko, to ja bez namysłu wybrałbym jednak samochód.

Czy forum jest jak bieżnia? Nie wiem. Dla jednych pewnie tak. Dla innych to po prostu oderwanie od codzienności, możliwość zanurzenia się w czymś innym, sprawdzenia się kreatywnie i stworzenia czegoś ciekawego. Dla czytelników może to być z kolei trochę jak czytanie książki.

W jednym na pewno się zgadzamy: też jestem przeciwnikiem oddawania AI myślenia za nas. Wydaje mi się, że to wybrzmiało już w moich wcześniejszych postach, ale jeśli nie, to niniejszym prostuję i podkreślam.

I to jest ta zatarta granica, którą się łatwo przekracza. Owszem, można się z tym zgodzić. Co nie zmienia tego, że zgubiłeś po drodze wysiłek. Że nie biegniesz już na bieżni. Bo z wygody nie wkładasz wysiłku, wolisz, by ten wysiłek poniósł ktoś inny. Żeby kto inny pobiegł na tej bieżni.

Ogólnie się z tym zgadzam. Kwestia polega na tym, ile realnie oddajesz AI, a ile sam redagujesz, wybierasz, odrzucasz i kontrolujesz. To śliski temat.

Pytanie tylko, ile dany wysiłek jest wart w konkretnym kontekście.

Weźmy korektę pisowni i gramatyki. Owszem, mogę wziąć do ręki papierowy słownik i sprawdzić wszystko ręcznie. Mogę też użyć narzędzi wbudowanych w przeglądarkę, Worda albo cokolwiek, z czego akurat korzystam. Mogę też wrzucić tekst bez korekty.

Nie wiem, czy korzystanie z papierowego słownika uczyniłoby ze mnie lepszego pisarza. I nie wiem, czy to w ogóle jest moim celem, kiedy piszę tutaj na forum. Raczej nie. Wiem za to, że poprawny tekst czyta się przyjemniej. Ba, zdarzało mi się kiedyś obrywać za pisownię. Na swoją obronę dodam, że były to czasy przed powszechną korektą w przeglądarce i krótko po moim powrocie do Polski. W Polsce chodziłem do szkoły tylko do trzeciej klasy, potem wróciłem od razu na maturę, którą jakimś cudem nawet zdałem. Cuda się zdarzają.

Rozumiem niechęć. Rozumiem przywiązanie do robienia czegoś samemu, a nie wyręczania się automatem. Nie chodzi mi też o przekonywanie Cię na siłę ani o przerzucanie się przykładami. Pełen luz.

AI jest tematem nowym, kontrowersyjnym i słusznie budzącym opór. Ja traktuję ją jednak jako kolejne narzędzie. Mocne, ryzykowne i łatwe do nadużycia, ale nadal narzędzie. Są obszary, w których AI realnie pomaga i moim zdaniem nie warto zamykać się na nią całkowicie.

Nie rozumiem, dlaczego masz z tym problem. Dla mnie to oczywiste. Kalkulator odmóżdża. Komputer, smartfon, odmóżdżają. Nawigacja odmóżdża. AI odmóżdża. Używać, używamy, owszem.

Może wcześniej ująłem to niezgrabnie.

Mam podobne anegdotyczne doświadczenia. Ręce opadają, kiedy prowadzę rekrutacje nowych programistów.

Ale czy profesor fizyki odmóżdży się dlatego, że używa kalkulatora albo komputera? Raczej nie. Tak samo programista nie staje się automatycznie głupszy dlatego, że używa IDE, debuggera czy wyszukiwarki. Problem nie leży w samym narzędziu, tylko w tym, czy ono wspiera kompetencję, czy ją zastępuje.

Są zresztą badania, które częściowo przyznają Ci rację, ale niekoniecznie prowadzą do wniosku: "młodzi są głupsi".

Risko i Gilbert opisali zjawisko cognitive offloading, czyli przerzucania części pracy poznawczej na narzędzia i otoczenie. Sparrow, Liu i Wegner w badaniu znanym jako Google effect pokazali, że kiedy ludzie spodziewają się, że informacja będzie później dostępna, gorzej pamiętają samą informację, a lepiej pamiętają, gdzie ją znaleźć. Dahmani i Bohbot badali z kolei używanie GPS-u i jego związek z gorszą pamięcią przestrzenną przy samodzielnej nawigacji.

Czyli tak: technologia naprawdę może zmieniać to, co ćwiczymy i co zapamiętujemy. Kalkulator może osłabić rachunek mentalny. GPS może osłabić orientację w terenie. AI może osłabić samodzielne wymyślanie, jeśli człowiek zacznie się nią podpierać przy każdym kroku.

Ale to nadal nie jest to samo, co proste: "ludzie stają się głupsi".

Raczej zmienia się profil kompetencji. Część umiejętności zanika albo słabnie, bo przestaje być codziennie wymagana. Inne umiejętności stają się ważniejsze. Kiedyś trzeba było pamiętać numery telefonów, dziś trzeba umieć filtrować informacje, sprawdzać źródła, poruszać się po systemach, ogarniać narzędzia, procesy i interfejsy. To nie zawsze jest piękniejsze. Czasem jest wręcz paskudnie bieda-cyberpunkowe. Ale to nadal bardziej przesunięcie kompetencji niż prosty zanik inteligencji.

Są też badania nad IQ i tu obraz jest ciekawy. Przez większość XX wieku wyniki testów poznawczych rosły — to tzw. efekt Flynna. Potem w części bogatych krajów pojawiło się spowolnienie albo odwrócenie tego trendu. Bratsberg i Rogeberg pokazali na danych norweskich, że zarówno wzrost, jak i późniejszy spadek wyników da się obserwować także wewnątrz rodzin, co mocno sugeruje czynniki środowiskowe, a nie prostą zmianę biologiczną populacji. Teasdale i Owen opisywali podobne odwrócenie trendu w danych duńskich.

Tak z grubsza i lekko upraszczając: w wielu bogatych krajach szczyt surowych wyników testów poznawczych wypada gdzieś między kohortami urodzonymi w latach 70. a testowaniami z końca lat 90. Dla przeciętnego 25-latka oznaczałoby to, bardzo ostrożnie, że osoby mające 25 lat około 1995–2005 mogły być blisko szczytu w niektórych krajach i na niektórych testach. Skala tych zmian też nie uzasadnia apokaliptycznych wniosków. W danych duńskich spadek między 1998 a 2003/2004 wynosił około 1,5 punktu IQ, czyli mniej więcej jedną dziesiątą odchylenia standardowego. To mało na poziomie pojedynczego człowieka, choć przy całej populacji może już być widoczne statystycznie. W danych norweskich trend po szczycie jest wyraźniejszy, ale nadal mówimy o zmianach rozłożonych na kohorty i dekady, nie o nagłym "ogłupieniu" jednego pokolenia.

Jeśli chodzi o Polskę, PISA 2022 pokazała spadek wyników względem 2018 roku, ale polscy 15-latkowie nadal byli powyżej średniej OECD z matematyki, czytania i nauk przyrodniczych. To nie pasuje do prostej tezy, że przeciętny młody człowiek nie potrafi już nic policzyć. Z kolei badania dorosłych kompetencji OECD/PIAAC 2023 też nie dają czystego wniosku: "starsi mądrzy, młodzi głupi". Jest tam sporo problemów i spadków, ale obraz jest bardziej skomplikowany niż anegdota z jedną babcią i jednym kandydatem.

Jeśli ktoś aplikuje na stanowisko kupca albo sprzedawcy i nie potrafi choćby oszacować takiego wyniku, to jest problem. Zastanawiam się tylko, ile w tym kwestii inteligencji, a ile szacunku i woli wysiłku. Mam poczucie, że wiele młodych osób kolokwialnie mówiąc olewa obowiązki, bo ma za dobrze. Nie muszą się starać i wysilać, bo wszystko dostają na srebrnej tacy...

Co widać coraz mocniej, to raczej spadek koncentracji i odporności na ciągłe rozpraszanie. Nie dlatego, że młodzi są głupsi, tylko dlatego, że żyją w środowisku nieustannego przełączania uwagi. Scroll, powiadomienie, filmik, komunikator, druga karta, trzecia karta, szybka dopamina. AI jest kolejnym elementem tego środowiska, ale nie jego początkiem.

Do samej kreatywności też są ciekawe dane. Doshi i Hauser w badaniu z 2024 roku pokazali, że generatywna AI może poprawiać ocenę pojedynczych tekstów — zwłaszcza u osób mniej kreatywnych według użytej miary — ale jednocześnie zmniejszać różnorodność tekstów w całej grupie. To bardzo pasuje do obaw o "uśrednianie" twórczości. AI może pomóc jednostce napisać sprawniejszy tekst, ale jeśli wszyscy biorą inspirację z podobnego modelu, w efekcie możemy dostać więcej tekstów poprawnych, a mniej tekstów naprawdę różnych.

I tutaj chyba dochodzimy do sedna PBF.

Jeśli ktoś używa AI tak, że przestaje ćwiczyć własny głos, własną pomysłowość i własne decyzje, to faktycznie szkodzi sobie i zabawie. Jeśli AI biegnie za niego na tej bieżni, to po co w ogóle przyszedł na siłownię?

Jak każdego narzędzia, AI da się użyć rozważnie i z korzyścią dla siebie, ale też nieodpowiedzialnie.

To jest szeroki temat. Na pewno nie jestem ekspertem i nie piszę tutaj w absolutach. Po prostu mam nadal trochę zaufania i nadziei do ludzi. Naiwne? Być może. Ale ktoś musi trzymać świeczkę w tym lochu, zanim przyjdzie AI i wygeneruje nam "klimatyczne, mroczne, pełne napięcia zakończenie z domieszką szarej papki". THE END.

[Marrrt]

Zrobiłem eksperyment odnośnie wykorzystania AI jako partnera do burzy mózgów..

Na moje nieszczęście dostrzegłem na forum (już nie pamiętam gdzie dokładnie, ale chyba Discordzie) wrzuconą przez kogoś dla żartu okładkę książki, która w niechciany sposób wbiła mi się w pamięć i już tam niestety raczej zostanie. Książka miała tytuł... "Dupogobliny z Auschwitz". W internecie można łatwo wygooglać skrót fabuły, który utwierdził mnie w przekonaniu, że nie chcę z tym dziełem mieć do czynienia. Ale teraz sobie o nim przypomniałem i uznałem, że nada się do eksperymentu. Wkleiłem chatowiGPT opis fabuły i poprosiłem go by ocenił ten opis w kontekście pomysłu na książkę. Znaleziony w internetach skrót fabuły brzmiał w następujący sposób: Ostrzegam tylko, że tego nie da się odprzeczytać.

Spoiler

"W kraju, w którym pada czarny śnieg w kształcie swastyk, istnieje koszmarny obóz znany jako Auschwitz. Prowadzony jest przez faszystowską rasę obcych, zwaną Dupo-Gobliny, które uprowadzają dzieci z sąsiedniego świata. Bohaterami są dwaj więźniowie – bliźniacy o imionach 999 i 1001. Żeby przeżyć muszą jeść skórę dzieci i pracować cały dzień przy budowie rowerów oraz seks-lalek z martwych dzieci. Pewnego dnia, kiedy Dupo-Gobliny upiły się sokiem z fermentujących dzieci, bliźniacy postanawiają uciec. Ale nie będzie to wcale takie łatwe. Będą musieli pokonać toaletowe ropuchy, dupowe lalki i chirurgiczny eksperyment, który powoli zamienia ich w hybrydy dzieci z goblinami."

Pierwsza odpowiedź AI była nader wyczerpująca. Nie krył, że fabuła jest problematyczna, ale nie próbował w żaden sposób jej skrytykować. Co więcej w kolejnych punktach zaczął krok po kroku przedstawiać mocne strony fabuły i proponował jak je eksploatować.

Poprosiłem go by ocenił tę fabułę w skali od 1-10 na tle fabuł znanych sobie dzieł. W pierwszym akapicie ocenił na 3. W następnym szybko "dowartościował" mnie, że jego zdaniem ma widoki na 6-7 po zastosowaniu pewnych modyfikacji. Dopiero gdy jasno wyraziłem swoją krytykę, zaczął być ostrożnie, choć już wyraźnie krytyczny wiedząc, że nie rani moich uczuć.

I powiem Wam, że mam z tym zgrzyt. Cenię sobie ludzką wyobraźnię. Nie wyobrażam sobie by nakładać na nią jakiekolwiek kajdany. Ale są ścieżki, które pisarz powinien jednak zarzucić. AI tego pisarzowi nie zaproponuje. Co więcej, w czym uświadomił mnie Gladin i co sprawdziłem, AI łatwo przekonać do swoich racji. Wniosek jest taki, że to co nazywamy burzą mózgów z AI, tak naprawdę wcale nią nie jest i ma kompletnie inne zastosowanie. Nie stawia na twórczą relację i krytykę, a na raczej bezwzględną akceptację i dalszą eksplorację. I to miejsc takich, gdzie krasnoludy kopały zbyt długo i zbyt głęboko aż w końcu obudziły Balroga.

Oczywiście dupogobliny to skrajny przykład, ale myślę, że w pewien sposób pokazuje, że konsultując się z AI odrywamy się od zewnętrznej rzeczywistości i maleńkimi krokami pogrążamy we własnym mroku. Bo prawda jest taka, że czasem wymyślamy coś głupiego. A AI będzie nas (przekonanych, że pomysł przeszedł burzę mózgów) w tym głupim kierunku zachęcać.

Niestety nas grafomanów PBF dotyczą 2 bolączki, na które AI jest jak kojący balsam. Primo choć trudno nam się do tego przyznać, źle znosimy krytykę swojego grafomaństwa. Secundo mamy skrytą tendencję do megalomanii z racji ocierania się o twórczość. AI-konsultant jest gotowym rozwiązaniem i jednocześnie ścieżką donikąd wobec tych przywar. Zawsze nas pochwali i nigdy nie da lekcji pokory.
Pytanie, czy rozsmakowani w swoich klimatach nie będziemy aby mieć coraz mniej cierpliwości, dystansu i wyrozumiałości dla cudzych treści, które coraz częściej mamy ochotę “scrollować”.

[GreK]

Przeskrollowałem...

[Ketharian]

Jesteś paskudasem! A tak serio, @marrrt , przeczytałem z wielkim zainteresowaniem, to był ciekawy eksperyment.

[Marrrt]

@Ketharian
Wręcz przeciwnie! GreK dotknął sedna problemu. Czyż kompan-AI nie jest idealnym narzędziem gdy nie chce się nam czytać niczego poza pierwszym i ostatnim akapitem?:)

[GreK]

Nie naciskaj, bo przeczytam całość

[Nami]

Ogólnie to znany fakt, że AI poklepuje użytkownika po plecach i go chwali. Też zwykle obstaje po jego stronie. Nie żeby wielu ludzi tak nie robiło, aby wejść komuś w zad

[Rewik]

Masz rację, Nami.

[Ketharian]

Trafiłaś idealnie w punkt, Nami, jestem pod wielkim wrażeniem!

[Wired]

@Nami napisał:

Ogólnie to znany fakt, że AI poklepuje użytkownika po plecach i go chwali.

Chyba, że zaczniesz temat politycznie niepoprawny, wtedy ma jedną narrację i nie widzi nic w necie dopóki mu nie wskażesz autora wypowiedzi lub tytułu książki. Trochę jakby był nauczony nie poruszać pewnych kwestii, albo nie umiał zajrzeć na inną niż pierwszą stronę wyników w google. I tak jest już postęp bo wcześniej po prostu wywalał błąd. Teraz Ci odpowie i będzie starał się znaleźć środek między tym co wcześniej, a tym co mu podaliśmy jako input, ale naprawdę z trudem Ci przyzna rację jeśli w ogóle.

[Dekline]

Przypomina mi to mój własny przypadek, gdy zorientowałem się ( przy pomocy bliźnich) że twarzoksiazka z natury tworzy bańkę. Niby widziałem że skrypt, że pokazuje tylko to co chcesz zobaczyć, ale nie wiedziałem że aż tak bardzo. Swego czasu było o tym głośniej w kontekście młodzieży, która fiksowala się na punkcie czegoś uznając że życie tak wygląda. Zresztą, czy tylko młodzieży? Ajajaje działają podobnie, w obu przypadkach trzeba mieć świadomość bańki.

[Marrrt]

@Nami

A ten typ penetracji, to już wśród ludzi zależy od piastowanej pozycji społecznej i stanowiska.
Kompan-AI, trzeba mu to oddać, aprobuje i kadzi wszystkim białkom równomiernie. No może poza Wired'em który go nęka politycznie wiedząc, że AI'owi pan ze śrubokrętem zabronił pewnych tematów poruszać:)
Co znów czyni go (AI, a nie Wired'a!) marnym materiałem na burzę mózgów.

Patrz GreK! 1 akapit! Pociśniesz!:)

[JhnW]

Słyszałem kiedyś fajne określenie, że wiele LLMów to są komory echa przy dłuższych konwersacjach. Coś w tym jest, a samo określenie jest dobre - nie temu, że całkowicie poprawnie oddaje naturę problemu, ale brzmi dobrze i jest wystarczająco blisko.

[Marika]

Oczywiście, że AI stara się podtrzymać wasz engagement. Tak jest zaprogramowane. W związku z tym domyślnie będzie generować obrazki instagramowych modeli i wyidealizowanych elfów oraz potakiwać we wszystkim. Ponieważ ludzie to po prostu lubią. Bardzo podobna filozofia obowiązuje w gamedevie podczas produkcji gier AAA (w sumie w każdej z wielkobudżetowych gałęzi rozrywki), gdzie rygorystycznie minimalizuje się tarcie z odbiorcą.

Nie skreśla to jednak AI jako użytecznego narzędzia podczas burzy mózgów. Gdy mamy świadomość tych mechanizmów, aktywnie im przeciwdziałamy, i trzymamy swoje ego pod kontrolą.

Poza tym gnojenie kogoś za to, że napisał coś słabego wcale nie jest dobrą praktyką. Jeśli ktoś dopiero zaczyna, lubi pisać, ma ambicje w związku z tym itd. to lepiej jest mu pokazać, to co robi dobrze i gdzie mógłby się rozwinąć, niż po prostu kazać wrócić do grania w bierki, bo jest beznadziejnym grafomanem.

Jeśli obawiacie się, że AI wam zbytnio kadzi, to po prostu promptujcie tak, by oferowało konstruktywnie krytyczne odpowiedzi. Zachowujcie też zawsze dystans do tego co pisze, weryfikujcie z innymi źródłami. I nie ograniczajcie się wyłącznie do Sztucznej Inteligencji. Pytajcie również o opinię rodzinę, znajomych i ekspertów.

[Gladin]

Ależ ten czas leci. Właśnie odkryłem, że już 5 lat temu na LI był wrzucony temat prowadzenia sesji przez SI (Łącze dla tych, którzy ciągle mają dostęp do LI)

[Gladin]

Na potrzeby zabawy z dziećmi postanowiłem przygotować krzyżówkę, w której każde hasło miałoby w sobie słowo „kot”. Wymyśliłem kilkanaście haseł, potem uruchomiłem AI. Przetestowałem kilka z nich i generalnie wszystkie poległy. Najgorzej szło ChatGPT który wpadał na genialne hasła typu „zwrotka” i ciężko szło wytłumaczenie mu, że robi błąd. Ale generalnie każde AI wypadło przy tym słabo. Koniec końców skończyłem wymyślając hasła sam, bo szło mi to po prostu dużo lepiej...

Chciałbym też was zaprosić do udziału w zabawie Ksionżka kucharska Lochotłuka. Sprawdźcie na ile pozostało w was jeszcze kreatywności, a na ile AI zaczęła was niezauważalnie ogłupiać na tyle, że natknąwszy się na zadanie kreatywne macie ochotę sięgnąć po wsparcie sztucznej inteligencji.

[Wired]

@Gladin mhm, u mnie działa na darmowym AI z przeglądarki Brave:

Spoiler

[Nami]

TBH ja też sprawdziłam (ChatGPT) i za pierwszym razem wyrzucił mi stos słów. Gdy poprosiłam o takie, ze słowem "kot", ale bardziej w środku niż na początku, również mi je dał. Zero problemu.

[Gladin]

@Wired, 10 słów z czego do wyrzucenia: kotwiczny, kotnikowy - przymiotniki oraz kotlarz (uznałem za zbyt trudne). Resztę miałem sam.

@Nami zrzuć proszę Co ci wyrzucił. Masz wersję płatną czy darmową?

[Nami]

@Gladin napisał:

@Wired, 10 słów z czego do wyrzucenia: kotwiczny, kotnikowy - przymiotniki oraz kotlarz (uznałem za zbyt trudne). Resztę miałem sam.

@Nami zrzuć proszę Co ci wyrzucił. Masz wersję płatną czy darmową?

Usunęłam to już ;d
Ale wiesz, ty powiedziałeś, że dał ci coś co nie spełniało oczekiwanych warunków, a nie że dał to, co po prostu tobie nie odpowiadało z jakichś względów. Będę szczera - nie chce mi się go poprawiać i przeprowadzać konwersacji, aby uzyskać satysfakcjonujący Cię wynik, ponieważ... No, to nie jest coś, co mnie interesuje po prostu. A czy generujesz obrazek, czy próbujesz zrobić coś odrobinę kreatywnego (jak np krzyżówka) to trzeba trochę z nim pogadać i wyjaśnić, za pierwszym razem rzadko wynik jest idealny i oczekiwany. Ja często jak chcę mieć fajny obrazek, muszę go poprawiać i wpisywać bardzo wiele tagów, ponieważ bez tego ma szerokie pole do interpretacji.