Nepřeložitelné mimo česky mluvící Fedi bublinu, která absolvovala české školství.

Prozíravost osvícenců nás zachránila před AI! Na nás si jen tak nepřijdou!

#ftip

@xChaos 🙈

@xChaos Mě nedávno pobavilo, když jsem chtěl, aby mi to vymyslelo nějaké palindromy. Snaží se, ale úplně blbě. 😄

@aikencz no ale to chce ten prvotní nápad.... evidentně past na děti, které byly zvyklé, že doteď se jim všechno do školy podařilo vygooglit. AI je obří honeypot :-))

Situace se mění: Google dřív našel všechno, víceméně správně, pokud se to vůbec dalo najít. AI si věci, které nenajde, prostě vymyslí. Industriální civilizace se konečně po 100 letech dopracovala k sériové výrobě surreálna...

@michal protože čeština je tokenizovaná úplně špatně a LLM prostě nevidí jednotlivé hlásky (původně neviděly ani jednotlivé číslice v číslu, ale tam už to asi naučili pracovat s kalkulačkou...). To samé prý u českého veršování...

Prostě stochastický papoušek, no.

@xChaos
A dá se tomu udělátku teda věřit ve věcech, které neznám?
Kdykoli jsem se různých AI zeptal na něco, co znám, tak odpověď byla buď úplně, nebo částečně hloupost.
Spíš mi to v aktuálním stavu připadá jako SW na vytváření "alternativní pravdy". Což mi přijde extrémně nebezpečné.

@Zettl_josef Generativní AI vytváří takovou zvláštní realizaci všeho, kdy u jakékoliv trochu z normálu vybočující scény či námětu okamžitě člověk pochybuje, jestli to není AI generované.

A u těch textových odpovědí je strašně nebezpečné, že to člověku občas potvrdí to, co si myslí nebo co najisto ví, a tím pádem má tendenci věřit i těm výmyslům....

Skutečně nás to ovlivňuje, a to i v případě, že se tomu snažíme vyhýbat.

@xChaos Jo jo, nedávno jsem viděl vyjmenovaná slova po Ř.

https://kompost.cz/@fuxoft/115390655218236400

@mkyral @xChaos Jj, funguje to skvěle, to nemohu říct!

@xChaos
Co mě láká a zároveň celkem znepokojuje je AI integrovaná v mobilech.
T-Mobile to integroval do nové generace T Phone, ale popravdě si pod tím neumím nic představit, co ta integrace do systému znamená.

@Zettl_josef @xChaos Také to nevím, ale na základě zkušeností bych odhadoval, že to prostě odesílá kopie všech soukromých dat pro další trénování modelu Perplexity AI. Že je to „integrované“ nejspíš znamená, že to nejde nijak vypnout.

@mkyral vždyť jsou vyfocené v tom mém postu vpravo :-)

@xChaos ups 🤭

@mkyral ale já to mám z NYXu, ne od Fuky... sleduju moc lidí a nemám u něj zvoneček...

@ptesarik @xChaos
Tak to jsem si taky myslel, jen doufal, že mě tu vyvedete z paranoie.
Druhou otázkou je, jak dlouho Android umožní mít vypnuté Gemini.

@Zettl_josef @xChaos Jestli chcete vyvést z paranoie ohledně integrovaného AI, tak to jste tu špatně. To se musíte zeptat nějakého prodejce T-Mobile.

@ptesarik @Zettl_josef tak copak o to, ona už dnes existuje možnost dát si na mobil prostě Linux. Akorát není jasné, jestli v tom pak bude možné používat věci jako homebanking a tak...

@xChaos @Zettl_josef To není jasné? Já myslel, že už spoustu let je jasné, že ne!
Máte radu, jak se dnes při komunikaci s nějakou českou bankou vyhnout osobním návštěvám (resp. souvisejícím vysokým poplatkům), iOS i Androidu?

@ptesarik @xChaos @Zettl_josef Webové bankovnictví normálně funguje, ne?

@zoul @xChaos @Zettl_josef Akorát u většiny bank je trochu problém s jiným druhým faktorem než mobilní aplikací. Cpou vám ji horem dolem.

@xChaos 🤦‍♂️ 🤣

@jan nejvtipnější je, jak slova po D ani všechna nezačínají na D... protože tokenizace.

Ale jako jo...jde z toho strach.

@xChaos Tak to je skvele, ze personalni oddeleni vybira uchazece podle vysledku pohovoru vedenych prave AI :)

@michal tak zahrnutí prvku losování povede jistě k větší demokratizaci společnosti...

@xChaos prostě nemá data, tak píše výstup s největší pravděpodobností 😂

@jan no jo, ale divím se, že nedokáží zabudovat nějakou absolutní pravděpodobnost, kromě té relativní. Chápu, že 0.01% > 0, ale nešlo by třeba ty parametry pravděpodobnosti výsledku vypisovat jako součást výsledku? Někde uvnitř modelu přece být musí...

Nějak, že by si člověk nastavil "míru kreativity" a pokud je v režimu vyhledávání, tak by byla velmi nízká...

@jan Na NYXu jsem získal formulaci, že zřejmě mám na mysli "případy, kdy ten model pokrývá danou doménu velmi slabě".

@Zettl_josef @xChaos (LLM) Ne, tomu udelatku se verit neda.

Presto je nekdy uzitecne; v anglictine funguje lip nez v cestine.

@xChaos @jan Tohle myslim nebude jednoduche. Ona pravdepodobnost vety je tak nejak umerna 1/e^delka_vety, takze tam je hodne nul. AI ktera nehalucinuje by byla super. Vlastne AI ktera nehalucinuje je strasne jednoducha, ale AI ktera je uzitecna a zaroven nehalucinuje by byla super :-).

@pavel @xChaos to nebude, to je jasné. Protože kdyby ano, tak to už dávno vyřešili. Snaha je, v GPT 5 přeci mají to jejich "reasoning". Ale i tak je to podle mě zásadní fail AI hype.

@jan @xChaos Tak reasoning je neco jineho, ne? A AI hype je lepsi ignorovat. Jsou to LLM, na modelovani jazyka jsou dobre, na odpovidani na otazky min.

(Asi by slo zkusit dat vystup modelu jinemu modelu, at to zkusi overit jestli to dava nebo nedava smysl, ale...)