Ważne ostrzeżenie dla grzybiarzy. Jeden błąd może skończyć się tragedią
Upowszechnienie dostępu do dużych modeli językowych już nieraz pokazało, że do nowinek technicznych należy podchodzić z rezerwą. LLM-y nazywane dziś sztuczną inteligencją popełniają absurdalne błędy, co w niektórych przypadkach może nawet stanowić zagrożenie dla zdrowia i życia. Szczególną ostrożność powinni zachować m.in. miłośnicy grzybobrania.
Sztuczna inteligencja nie nadaje się do wszystkiego - delikatnie mówiąc
Duże modele językowe, jak ChatGPT, Microsoft Copilot czy Google Gemini nie powinny być wykorzystywane w zastosowaniach związanych ze zdrowiem - takie zastrzeżenie pochodzi nawet od ich producentów. Sztuczna inteligencja jest niezwykle zawodna w tych scenariuszach wykorzystania, w których przetworzona została relatywnie niewielka ilość danych bądź dane były niskiej jakości. W kwestiach zdrowotnych tzw. halucynacje LLM-ów mogą być opłakane w skutkach.
Niestety także obszary niezwiązane bezpośrednio ze zdrowiem i życiem mogą w połączeniu ze współczesnym podejściem do sztucznej inteligencji poprowadzić do katastrofy. Donosi o tym zespół 404 media, który w sezonie na zbieranie grzybów dostrzegł bardzo niebezpieczny problem - grzybiarze mogą wykorzystywać do identyfikacji swoich znalezisk efekty pracy sztucznej inteligencji, co w skrajnych przypadkach może skończyć się zatruciem ze skutkiem śmiertelnym.
Fikcyjne grzyby wygenerowane przez SI zalały wyszukiwarkę Google
Popularyzacja generatywnej sztucznej inteligencji poskutkowała zalaniem internetu, także wyszukiwarki Google, ogromem obrazków udających zdjęcia, które mogą przedstawiać nieistniejące obiekty. O ile przed dwoma laty można było bez problemu je odróżnić od prawdziwych fotografii, to kolejne generacje m.in. SI Midjourney tworzą fałszywe zdjęcia z takim pietyzmem, że jednoznaczna weryfikacja autentyczności przez przeciętnego internautę jest już w zasadzie niemożliwa.
Na subreddicie poświęconym mykologii pojawiły się doniesienia, że próby wyszukania w Google grzyba z gatunku Coprinus comatus znanego w Polsce jako czernidłak kołpakowaty, skutkują przedstawieniem wygenerowanego przez sztuczną inteligencję fikcyjnego grzyba. Co gorsza, wynik ten pojawia się w widoku mobilnym ponad innymi. W rezultacie osoba, która właśnie jest na grzybach i za pośrednictwem smartfonu chce zweryfikować swoją wiedzę, może być wprowadzona w fatalny w skutkach błąd.
Rzeczony przypadek dotyczył zdjęcia pochodzącego z repozytorium Freepik, gdzie oznaczone było jako wygenerowane przez sztuczną inteligencję, ale też jako Coprinus comatus. Żeby dowiedzieć się o tym, że nie mamy do czynienia z prawdziwą fotografią, trzeba było jednak przejść do strony źródłowej - w wynikach wyszukiwarki Google taka informacja nie padła.
Nie należy korzystać z Google na grzybobraniu - są lepsze metody weryfikacji
Moderator społeczności mykologów na Reddicie potwierdził, że nie jest to odosobniony przypadek, lecz reguła. Z jakichś powodów zdjęcia wygenerowane przez sztuczną inteligencję mają bardzo wysoką pozycję w wynikach Google, mimo że pierwotnie zostały oznaczone jako fałszywe. O tym, że wygenerowane przez SI “zdjęcia” grzybów mogą być dużym zagrożeniem przekonuje także Elan Trybuch ze Stowarzyszenia Mykologicznego Nowego Jorku:
Wiele osób nie tylko uczy się wizualnie, ale także dzięki szybkości rozpowszechniania informacji ludzie bardziej polegają na natychmiastowej informacji zwrotnej, a nic nie robi tego lepiej niż zdjęcie referencyjne. Problem polega na tym, że wiele z tych zdjęć wygląda “wystarczająco” podobnie do prawdziwej rzeczy. Chociaż może to mieć druzgocące konsekwencje, myślę, że w większości przypadków po prostu wprowadzi zamieszanie: co jest prawdziwe?
Rozwiązaniem problemu może być oznaczanie obrazków wygenerowanych przez sztuczną inteligencję, co Google deklarowało, ale dotąd w tym zawodzi. Jest to zaskoczenie tym większe, że przecież odpowiedni tag widniał na stronie źródłowej, z której Google zaczerpnęło obrazek do wyników. Gdy zawodzi big tech, ostrożność muszą zachować sami grzybiarze - lepiej niż na Google polegać w tym przypadku na aplikacjach mobilnych uznanych wydawców lub na kieszonkowych leksykonach.
