Umělá inteligence

Proč jazykové modely halucinují

• Zdroj: Why Language Models Hallucinate
• Problém není v datech nebo architektuře, ale v tom, jak modely trénují = v systému hodnocení jsou odměňování za tipování, místo přiznání nevědění.

Studie MIT: vliv ChatGPT na paměť

• Zdroj: Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task

Výsledky

• Lidé, kteří používali ChatGPT, si ze svého textu pamatovali v průměru jen 36 % obsahu
• Skupina s Googlem si zapamatovala 59 %
• Ti, kteří psali samostatně, si pamatovali 65 %

Text napsaný bez přemýšlení si těžko zapamatujete. Kognitivní dluh: Schopnost tvořit, uvažovat a argumentovat zůstala oslabená.

What sources does Perplexity frequently cite?

Doporučení studentům pro práci s nástroji AI – https://ai.cuni.cz/AI-11.html