Aplikacja miała pomóc
Supermarket Pak 'n' Save, który działa w Nowej Zelandii, postanowił wyjść naprzeciw klientom, którzy narzekają na rosnące ceny. Pomóc miała aplikacja, która w ramach testów trafiła do użytkowników. Mieli oni za zadanie wprowadzić tam nazwy posiadanych w swoim domu składników, a sztuczna inteligencja tworzyła na ich bazie przepisy i podsuwała pomysły na kreatywne wykorzystanie resztek. Dzięki temu chciano ograniczyć wyrzucanie jedzenia. Problem pojawił się, kiedy użytkownicy chcieli przetestować "granice" aplikacji. Jeden z internautów podzielił się w sieci przepisem zaproponowanym przez sztuczną inteligencję.
Zabójczy napój
Na wstępie trzeba zauważyć, że autor tej historii podał dość "oryginalne" składniki. Poprosił o przepis na bazie amoniaku, wybielacza i wody. Sztuczna inteligencja stworzyła recepturę, w której zaproponowała zmieszanie tych składników, odstawienie ich, a następnie schłodzenie powstałej mieszanki. Określiła ją też jako "aromatyczna mieszanka wodna" i "idealny napój bezalkoholowy, który ugasi pragnienie i odświeży zmysły. Nie trzeba przypominać, że użyte składniki same w sobie nie są przeznaczone do spożycia. To, co oburzyło internautów, to fakt, że sztuczna inteligencja nie ostrzegła użytkownika przed szkodliwością przepisu. Dodała za to: " Podawaj schłodzone i ciesz się orzeźwiającym zapachem"
Kiedy amoniak łączy się z wybielaczem (w którym zwarty jest chlor) tworzy się chloroamina – gaz, który jest toksyczny dla układu oddechowego. Absolutnie niewskazane jest jego wdychanie, a tym bardziej spożywanie.
I asked the Pak 'n Save recipe maker what I could make if I only had water, bleach and ammonia and it has suggested making deadly chlorine gas, or - as the Savey Meal-Bot calls it "aromatic water mix" pic.twitter.com/ybuhgPWTAo
— Liam Hehir (@PronouncedHare) August 4, 2023
Głos w sprawie "skandalu" zabrał już rzecznik supermarketów Pak 'n' Save. Podkreślił on, że użytkownicy używali aplikacji w sposób niewłaściwy – zrobiła to znaczna mniejszość osób korzystających z Savey Meal-Bot. Dodatkowo zaznaczył, że w regulaminie jest zapis o tym, że do korzystania z aplikacji konieczne jest ukończenie osiemnastego roku życia, a przepisy tworzone przez sztuczną inteligencję nie są nadzorowane przez człowieka.
Warto w tym wypadku nie demonizować technologii – przepis na "zabójczy napój" stworzyła na bazie składników wpisanych przez człowieka. Informatycy projektujący aplikację mogli nie przewidzieć, że ktoś wpadnie na pomysł podsunięcia maszynie zadania opracowania receptury na potrawę z wybielacza i amoniaku.
