AI se „zlepšují v předstírání, že mají znalosti“. Dejte si pozor na ty chytré: zdá se, že mají všechny odpovědi, ale dokážou také spřádat ty nejpřesvědčivější lži.
Zdá se, že tato logika platí i pro velké jazykové modely, které jsou s každou iterací výkonnější. Nový výzkum naznačuje, že tato chytřejší skupina AI chatbotů se ve skutečnosti stává méně důvěryhodnou, protože je pravděpodobnější, že si vymýšlejí fakta, namísto toho, aby se vyhýbali nebo odmítali otázky, na které nedokážou odpovědět.
Studie publikovaná v časopise Nature zkoumala některé z předních komerčních LLM v oboru: OpenAI GPT a Meta LLaMA, spolu s open source modelem nazvaným BLOOM. I když se zjistilo, že jejich odpovědi jsou v mnoha případech stále přesnější, byly obecně méně spolehlivé a poskytovaly vyšší podíl chybných odpovědí než starší modely. (…)
Ještě ostřejší hodnocení měl Mike Hicks (…) z University of Glasgow. „To mi připadá jako něco, co bychom nazvali bullshitting (blábolení). [AI] stále lépe předstírají, že mají znalosti.“
Podle výzkumníků byly některé z největších bullshitterů [lhářů] OpenAI GPT-4 a o1, které by zodpověděly téměř jakoukoli otázku, která jim byla předložena. (…) [Ž]ádný z nich ale nedokázal dosáhnout úrovně 60procentní správnosti pro nejjednodušší otázky, uvedla studie. Stručně řečeno, čím větší byly modely umělé inteligence – pokud jde o parametry, trénovací data a další faktory – tím větší bylo procento chybných odpovědí.

Zdroj: https://futurism.com/…i-likely-lie