Co naprawdę robi ChatGPT gdy odpowiada na pytanie

Gdy wpisujesz w okienko czatu swoje pytanie, sprawa wydaje się prosta. Masz wrażenie, że po drugiej stronie siedzi cyfrowy asystent, który czyta, myśli, analizuje temat, a potem formułuje przemyślaną odpowiedź. Prawda wygląda jednak zupełnie inaczej. ChatGPT nie ma pojęcia o istnieniu czasu, przestrzeni ani tym bardziej o tym, o co go pytasz w ludzkim rozumieniu tego słowa.

Jak działa tokenizacja tekstu

Wszystko zaczyna się od momentu, w którym klikasz enter. Wtedy twój tekst wcale nie trafia do bota w takiej postaci, w jakiej go napisałeś. Specjalny program zwany tokenizerem tnie całą wypowiedź na drobne kawałki, czyli tak zwane tokeny. Tokenem może być całe słowo, ale częściej jest to jego fragment, sylaba, a nawet pojedyncza litera czy znak interpunkcyjny.

Przeliczanie tekstu na liczby to fundament działania sztucznej inteligencji. Komputer nie widzi słów tak jak my, nie czuje ich emocjonalnego zabarwienia ani kontekstu kulturowego. Każdy wycinek tekstu zostaje zamieniony na unikalny identyfikator numeryczny. Dopiero na tych surowych liczbach zaczynają operować potężne sieci neuronowe.

Matematyczne zgadywanie kolejnego słowa

Gdy liczby trafią do środka modelu, uruchamia się mechanizm przewidywania. ChatGPT tak naprawdę robi jedną rzecz: na podstawie miliardów wzorców zebranych podczas treningu oblicza, jakie wyrażenie statystycznie powinno pojawić się jako następne. To trochę tak, jakbyś pisał wiadomość na telefonie i klikał kolejne podpowiedzi pod słownikiem, tyle że na niespotykaną dotąd skalę.

Model nie zastanawia się nad sensem moralnym ani faktyczną poprawnością historyczną odpowiedzi. Liczy prawdopodobieństwo matematyczne. Analizuje, które słowa najczęściej występowały obok siebie w ogromnych bazach danych obejmujących książki, artykuły i strony internetowe. Jeśli początek zdania brzmi określonym tonem, algorytm dobiera kolejny element układanki, który najlepiej pasuje do tego wzorca.

Skąd bierze się płynność wypowiedzi

Wielu użytkowników uważa tę płynność za dowód na to, że maszyna naprawdę myśli. Za ten naturalny styl odpowiada architektura typu transformer oraz procesy douczania modelu. Po wstępnym trenowaniu na surowym internecie, sztuczna inteligencja przechodzi przez fazę korygowania przez ludzi. Trenerze oceniają odpowiedzi, ucząc boty, które formy wypowiedzi są uprzejme, pomocne i zrozumiałe.

Dzięki temu system potrafi naśladować ludzki sposób prowadzenia konwersacji. Kiedy zadajesz pytanie techniczne, uruchamiają się ścieżki kojarzone z kodem lub poradnikami. Gdy pytasz o luźną historię, ton natychmiast zmienia się na lżejszy. To wciąż czysta statystyka, ale uformowana tak sprytnie, że zatiera granicę między maszyną a żywym rozmówcą.

Dlaczego bot czasami zmyśla

Skoro cała procedura opiera się na zgadywaniu następnego elementu, staje się jasne, skąd biorą się tak zwane halucynacje. Gdy model nie ma w bazie danych odpowiednich statystyk dla rzadkiego zapytania, nie powie ci wprost, że czegoś nie wie. Zamiast tego dobierze słowa, które brzmią najbardziej wiarygodnie w danym kontekście.

W efekcie otrzymujesz brzmiącą niezwykle profesjonalnie, ale całkowicie zmyśloną informację. Skoro gramatyka i styl pasują do reszty wypowiedzi, nasz ludzki mózg naturalnie wpada w pułapkę wiarygodności. Warto o tym pamiętać za każdym razem, gdy korzystasz z podpowiedzi sztucznej inteligencji w poważnych sprawach.