Az alapkamatlanság: Miért a legokosabb modell még mindig rosszul van

"A probléma nem az adatokban rejlik, hanem abban, hogy hogyan hagyjuk figyelmen kívül az unalmas részeket."

Miért lenne egy modell 99% -os előrejelzési pontossággal elárasztja a postaládáját hamis riasztásokkal, és gyönyörű napját rémálommá változtatná?

Összezavarodott vagy?
Üdvözöljük aBase Rate Fallacy- olyan előítélet, amely mind az embereket, mind a gépeket arra készteti, hogy tévesen ítéljenek meg a valószínűségeket, amikor figyelmen kívül hagyjuk az adatokat tartalmazó kontextust.

What Is the Base Rate Fallacy?

Vessünk egy gyors pillantást arra, hogy mi az alapkamat-hamisítás valójában.

Abase rateaz esemény bekövetkezésének valószínűsége -ElőtteÚjabb bizonyítékok: abase rate fallacyEz akkor történik meg, amikor ezeket az alapvető valószínűségeket figyelmen kívül hagyjuk, és csak az új bizonyítékokra összpontosítunk.

Let the Math Speak

Képzeljünk el egy olyan helyzetet, amikor egy betegség1 in 1000Te, aki egy zseni vagy, olyan tesztet fejlesztesz ki, amely99% accurate:

• Ha valaki a betegség, a teszt pozitív 99% -ában (igaz pozitív).
• Ha valaki nem rendelkezik a betegséggel, a teszt negatív 99% -át teszi ki (igaz negatív).

Tegyük fel, hogy valaki tesztelpositiveMi az esélye annak, hogy valóban megkapják a betegséget?

Az intuícióval ellentétben aznot 99%Itt van miért:

1000 fő közül:

• 1 embernek van valójában a betegsége → a teszt valószínűleg elkapja → 1 valódi pozitív
• 999 embernek nincs betegsége, 1 százalékuk pozitív tesztet kapott, 10 hamis pozitív

Azok között, akik pozitív teszteket tesztelnek:

• Összes pozitív = 1 (igaz) + 10 (hamis) = 11
• Valójában a betegség valószínűsége = 1 / 11 ≈ 9%

👉 Annak ellenére, hogy a teszt “99% -ban pontos”, a betegség esélye csak9%Mert a betegség nagyon ritka.

Ezt1-in-1000Az aBázis Rate- és figyelmen kívül hagyása hatalmas félreértéshez vezet.

Why Humans Fall for This

Ez nem csak egy matematikai probléma – ez egybrain problem.

pszichológusokDaniel KahnemanésAmos TverskyFelfedeztük, hogy amikor értékeljük a valószínűségeket, tudattalanul nehéz kérdéseket helyettesítünk könnyebb kérdésekkel.

„Milyen jól illeszkedik ez a helyzet a mentális sztereotípiámhoz?”

Tehát amikor egy teszt 99% -ban pontos, az agyunk azt mondja:
Olyan ez, mint egy meccs!”
...és feltételezzük, hogy az eredménynek igaznak kell lennie.

Ez a rövidítés az ún.representativeness heuristic, és ez arra késztet minket, hogy figyelmen kívül hagyjuk az unalmas, statisztikai bázisot.

The Engineer–Lawyer Conundrum

Ezt a hatást jól demonstrálták aEngineer–Lawyer problem.

A résztvevőknek elmondták:

• Egy szobában 70 ügyvéd és 30 mérnök dolgozik.
• Jack introvertált, élvezi a matematikai rejtvényeket, és szereti az elektronikát.

Aztán megkérdezte: „Mi a valószínűsége annak, hogy Jack mérnök?”

Bár az alapszám azt sugallja, hogy a30% chanceA legtöbb ember azt mondta80–90%Mert JackhangokA leírás reprezentatívnak tűnik, így a 70/30 arányt figyelmen kívül hagyják – még akkor is, ha ez egy erősebb előrejelző.

How This Fails in the Real World

**AI előrejelzések \ Olyan modellt hoz létre, amely 95%-os pontossággal jelöli meg a hibás termékeket.0.1%Az elemek valójában hibásak, a legtöbb figyelmeztetés hamis pozitív lesz.

**Az ellátási lánc tervezése \ Korai figyelmeztető késleltetési rendszer jelzi az eladó kockázatát.1 in 500Ha a szállítások ténylegesen késnek, a legtöbb figyelmeztetés hamis lesz – még akkor is, ha a rendszer technikailag „pontos”.

És ez számos területen történik: csalás felderítése, orvosi vizsgálatok, fenyegetés figyelmeztetések, anomáliák monitorozása – a lista folytatódik.

The Solution: Bayes to the Rescue

Matematikai szempontbólBayes’ TheoremSegít ellensúlyozni az alapkamat-hamisításokat. frissíti meggyőződésünket azáltal, hogy az alapkamatokat új bizonyítékokkal ötvözi:

P(A) B = P(B) P(B) A / P(A)

ahol :

• P(A) B: A betegség pozitív tesztelésének valószínűsége
• P(B) A: A betegség esetén pozitív teszt valószínűsége
• P(A): Az alapszint (előzetes valószínűség)
• P(B): A teszt pozitív teljes valószínűsége (igaz + hamis pozitív)

A Bayes-elmélet kiegyensúlyozni akarAmit tudunkAzokkalAmit látunkValami, amit az emberi intuíció hajlamos kihagyni.

Final Thoughts

Egy előrejelzésen alapuló világban élünk - az AI-tól az egészségügyi ellátásig a logisztikáig.De a számok, függetlenül attól, hogy mennyire kifinomultak, nem jelentenek semmit a helyescontext.

És néha a legerősebb betekintés az unalmas, alacsony kulcsú valószínűségben rejlik, amit túl gyorsan figyelmen kívül hagytunk.