Google AI przyjmie dowolne bezsensowne zdanie, które mu podajesz i nadasz znaczenie

Chociaż To W ciągu ostatnich kilku lat zostało zintegrowane z coraz większym naszym życiem, integracje te nie zawsze były sprawne. AI miało skłonność do zrobienia czegoś, co nazywa się halucynatem, czyli wtedy, gdy przedstawia fałszywe informacje, jakby to prawda lub po prostu coś wymyśla.

Te halucynacje mogą być poważne lub głupie, a kiedy są głupie, rzeczy mogą szybko wymknąć się spod kontroli. Przykład: kiedy jeden X (wcześniej użytkownik Twittera) zauważył, że możesz połączyć dowolną grupę słów, i Google Gemini Ai postrzegałby to jako idiom lub wspólny wyraz i nadałby mu znaczenie. „Dwie suche żaby w sytuacji” to tylko jeden przykład. Oto, co wiemy.

Google's Gemini AI uważa, że ​​„dwie suche żaby w sytuacji” są powszechnym wyrażeniem.

W poście Matta Rose (@Rose_Matt) wyjaśnił, że poprosił Gemini o znaczenie szeregu słów, które nic nie znaczą i otrzymał wyjaśnienie.

„Nauczyłem się dzisiaj, że możesz wpisać wszelkie nonsens Google Następnie „Znaczenie” i AI założą, że szukasz znanej ludzkiej frazy i gorączkowo wymyśliłeś to, co według niego może oznaczać ”-napisał.

Przykładem, którego używał Matt, to „dwie suche żaby w sytuacji”, które wyjaśnił Gemini, było „metaforycznym wyrażeniem często używanym do opisania trudnej lub niezręcznej sytuacji społecznej. To zabawny sposób powiedzenia, że ​​grupa ludzi, zwłaszcza dwóch, jest w niepewnej lub niewygodnej sytuacji”.

Wyniki, jeśli przeszukujesz termin teraz usunięto sztuczną inteligencję, prawdopodobnie dlatego, że nie był to najlepszy wygląd Bliźnięta.

Jak wyjaśnia ten incydent, Gemini czasami po prostu coś wymyśla, jeśli nie ma dobrej odpowiedzi, zakładając, że osoba szukająca tego terminu ma coś na myśli. Chociaż jest to dość niskie stawki, mówi o sposobie, w jaki wyniki są niewiarygodne, szczególnie gdy szukasz czegoś, co może być stosunkowo niejasne.

Inni ludzie próbowali tego samego.

Po tym, jak Matt opublikował swój przykład na X, inni użytkownicy wypróbowali swoje ręce w tworzeniu idiomu, który jest bez znaczenia i zobaczył, jaką definicję dała mu Google.

Jedna osoba próbowała tego z frazą „Uczucia mogą zostać zranione, ale ryby pamiętają” i otrzymał wyjaśnienie, że możesz oczekiwać, że ktoś, kto nie uczy się uczynić, aby test mógł dać, jeśli i tak musiał odpowiedzieć na pytanie.

Inny osoba próbowała „Big Winky on the Skillet Bowl”, która nie jest teraz idiomem, ale prawdopodobnie powinna być w najbliższej przyszłości.

Chociaż nie działało to dla każdego użytkownika, wielu stwierdziło, że może uzyskać wymyślone definicje swoich wymyślonych zwrotów, sygnalizując, że AI jest przede wszystkim zaprojektowana, aby udzielić użytkownikom odpowiedzi, nawet jeśli ta odpowiedź jest myląca lub wręcz niepoprawna.

Nie dotarliśmy jeszcze na scenę, w której sztuczna inteligencja jest wygodna, przyznawając to, czego nie wiemy. Jak wie, że każdy, kto kiedykolwiek był w terapii, przyznanie się do tego, czego nie wiesz, jest co najmniej połową bitwy.