ChatGPT IS Getting Worse – Přijde mi zajímavé, jak AI kopíruje určité lidské zvyklosti. U lidí, se zvětšující skupinou, výsledná inteligence klesá, u AI se zvětšujícím se modelem… https://arxiv.org/pdf/2307.09009.pdf.
These models aren’t necessarily getting worse; they’re evolving – což je vlastně super zaklínadlo i pro vývoj lidstva :-).
Firmy, které čelí hloupnutí AI, budují (budou budovat) tzv. Prompt libraries, aby zjistili, jestli nedochází k „Prompt Drift‘ – tedy k „poklesu inteligence“ (nesprávně zjednodušeno) v oblastech jejich zájmu, tj. jestli jejich AI pořád odpovídá stejně dobře.
To samé u lidí. „Co si myslíš o rouškách? Fandíš Putinovi?“. Děláme se prompt libraries celkem přirozeně (málo kdo dokáže oddělit člověka od názoru).
Takže hrozba celého AI možná skončí tak, že hloupému lidstvu bude odpovídat hloupá AI🙂 a žádná vzpoura strojů se nekoná.