ඩොක්ටර් : AI පෙට්ටිය එනවා.අපි අපේම හදන්න හෝ Big Tech අප වෙනුවෙන් ඒවා හදන්න ඉඩ දෙන්න.
ඩොක්ටර් :Remember when Richard Hendricks kept ranting about “The Box” and everyone thought he’d lost it? Well, turns out the crazy bastard was right. We just got the timeline wrong.
HBO හි Silicon Valley හි, “The Box” යනු පරිශීලකයන්ට බලපාන අලෙවි පද්ධති අතර තෝරා ගැනීමයි.
The Box isn’t some magical compression algorithm. It’s edge AI hardware that can run the models that needed Google’s data centers two years ago. And it’s shipping right now.
ඔබව බිය කළ යුතු ආකෘතිය
- 2014: Amazon Echo shows up. “It’s just a speaker,” we said.
- 2018: Google සහ Apple ඔවුන්ගේම spy cylinders සමඟ අනුගමනය කරයි.
- 2022: ChatGPT අන්තර්ජාලය විනාශ කරයි.
- 2025: AMD ships consumer chips with 50 TOPS. NVIDIA Jetson hits 275 TOPS for $2,400.
- 2027: Canalys අනාවැකි 60% නව පරිගණක AI හැකියාව ඇති වනු ඇත, 2024 දී 20% සිට ඉහළ යයි.
ඒ 2027 අවසානය වන විට අපි තීරණය කරන්නේ පවුල් ඔවුන්ගේ AI අයිතිද නැත්තම් එය සදාකාලිකව බිග් තාක්ෂණයගෙන් කුලියට ගන්නේද යන්නයි.
මෙන්න මේ හැමදේම වෙනස් කරපු දේ
Those models that needed massive cloud infrastructure? Their scaled-down but practical versions are running on hardware you can actually buy — if you know where to look:
Consumer/Prosumer Options:
- AMD Ryzen AI Max+ 395: 128GB සංසන්දනය, ඩොලර් 2,800, 45-120W - Llama 70B ස්ථාපිතයෙන් 4-8 ටෝකන් / තත්පරයේ ක්රියාත්මක කළ හැකි එකම prosumer උපාංගය
- NVIDIA RTX 4090: 24GB VRAM, $1,500, 350W - powerful but memory-limited, can't handle 70B models
- NVIDIA Jetson AGX Orin: 64GB RAM, ඩොලර් 2,400, 15-60W - Edge AI සඳහා විශිෂ්ට නමුත් විශාල ආකෘති සමඟ මතකය බිත්තියකට පහර දෙයි
Enterprise-Only විසඳුම්
- NVIDIA H100/H200: 80-192GB VRAM, $20,000+, 350-1000W - can run any model but requires server infrastructure
- Intel Gaudi 2/3: 96GB + මතකය, $ 5-8k, 350-600W - තරගකාරී කාර්ය සාධනය නමුත් ව්යාපාරික මිල හා බල අවශ්යතා
Reality Check: AMD Ryzen AI Max+ 395 is currently the only prosumer device that can run Llama 70B locally. NVIDIA’s consumer GPUs max out at 24GB (not enough), their enterprise cards cost $20,000+, and even the Jetson AGX Orin hits a 64GB wall. Intel’s Gaudi chips work but require server infrastructure and enterprise pricing.
AMD achieved this through unified memory architecture — up to 128GB LPDDR5X shared between CPU, GPU, and NPU in a quiet, energy-efficient package that fits in a desktop or laptop.
Linux Desktop මොහොත (ඒත් වඩා නරක)
වින්ඩෝස් මුලින්ම එතනට ආවා, ජාල බලපෑම් ඇරඹුනා, සහ ලින්ක්ස් Normies සඳහා සූදානම් වන විට, සෑම කෙනෙකුටම මයික්රොසොෆ්ට්ගේ පරිසර පද්ධතිය ඇතුළත් විය.
මෙම අවස්ථාව හැර වසර 2-3 ක් නොවේ, දශක ගණනාවක් නොවේ, සහ ඔට්ටු ඔබේ පවුලේ බුද්ධිය, ඔබේ ගොනු කළමනාකරණය පමණක් නොවේ.ඔබේ පවුලේ AI ඇපල් / ගූගල් / ඇමේසන් පරිසරයට ඇතුළත් වන විට, මාරු කිරීම ඔබේ සම්පූර්ණ ඩිජිටල් ජීවිතය නැවත ගොඩනැගීමයි.
Ready Player One දී, විඩ් වොට්ස් ඔහුගේ පැරණි මෘදුකාංගයෙන් වැඩි දියුණුවක් ලබා ගැනීමට සිහින දකිනවා, නමුත් ඔහු හොඳ දේවල් ලබා ගත නොහැක.අපි AI සමඟ එකම විකල්පයට මුහුණ දෙන්නෙමු - විනෝදාස්වාදය සඳහා ප්රවේශයක් නොවන බව හැර, ඔවුන් බුද්ධිමය ස්වාධීනත්වය සහ පෞද්ගලිකත්වය.
Why We Can Actually Win This Time
The Hardware Gap Is Closing (But Not Closed): Consumer hardware now matches the raw compute of cloud GPUs from just two years ago. You can run capable local models for document analysis, background automation, and routine AI tasks — but we’re not quite at real-time ChatGPT speeds yet. Think fast batch processing rather than instant conversation.
Here’s the acceleration that matters: hardware costs are dropping 30% annually while energy efficiency improves 40% per year. New chips are delivering 2.8–3x performance gains over previous generations every 12–18 months — faster than Moore’s Law. What costs $2,800 today will cost $800-$1,200 within 18–24 months.
Privacy Isn’t Abstract Anymore:TikTok තහනම් කිරීමෙන් ChatGPT දත්ත කැපවීමේ ප්රශ්න වලට, මිනිසුන් අවසානයේ ඔවුන්ගේ දත්ත ආරක්ෂිත නොවන බව සොයා ගනී.
Models Are Becoming Commodities:Meta (Llama), Mistral, DeepSeek, Alibaba (Qwen) දේශීයව ක්රියාත්මකව ක්රියාත්මකව ක්රියාත්මකව ක්රියාත්මකව ක්රියාත්මකව ක්රියාත්මකව ක්රියාත්මකව ක්රියාත්මකව ක්රියාත්මකව ක්රියාත්මකව ක්රියාත්මකව ක්රියාත්මකව ක්රියාත්මක කළ හැකිය.
සාධාරණ තාක්ෂණික සැබෑත්වය
What Can You Actually Do With 4–8 Tokens Per Second?
අපි අවංක වන්න - මෙය තවමත් සාමාන් ය පවුල් සඳහා නොවේ. තත්පර 4-8 කින්, ඔබ බොහෝ දෙනෙක් බලාපොරොත්තු වන මෘදු ChatGPT අත්දැකීම් ලබා නොගනී.
මෙය දැනට දේශීය AI සමඟ අත්හදා බැලීමට කැමති තාක්ෂණය උනන්දුවන්ට, යෙදුම් ගොඩනඟන සංවර්ධකයින්ට සහ පෞද්ගලිකත්වය ගැන දැනුවත් පරිශීලකයින්ට දත්ත ස්වාධීනත්වය සඳහා පහසුකම් වෙළඳාම් කිරීමට කැමති වේ.
But here’s why this matters: by the time edge AI is family-ready, we need the infrastructure, software ecosystem, and community knowledge to exist. Someone has to build the foundation now, or families will only have Big Tech’s options when they’re ready to adopt.
The Current Limitations:
- Performing Gap: Local models still lag behind GPT-4o/Claude in complex reasoning and multi-modal tasks (විශාල ආකල්පයන් තවමත් GPT-4o/Claude හි පසුපසින්)
- Maintenance Burden: You’re responsible for security patches, model updates, and hardware failures
- Power and Heat: Running AI 24/7 means dealing with 45–120W power consumption, heat generation, and potential fan noise
- මෘදුකාංග පරිසරය: Ollama වැනි ව්යාපෘති සමඟ වේගයෙන් වැඩි දියුණු වන අතර, මෙවලම් තාමත් දුර්වල ප්රතිලාභ ඇත
එය තවමත් Plug-and-play නොවේ.එය වඩාත් "විශේෂ සති අන්ත ගණනාවක් සහ බොහෝ ඉවසීම සමඟ සුදුසු DIY උනන්දුවක්."
ඇත්ත වශයෙන්ම ඔබට දැන් කළ හැකි දේ
If you’re technically minded:
- Ollama, දේශීය ආකෘති සහ Edge AI උපාංග සමඟ අත්හදා බැලීම ආරම්භ කරන්න
- අනිත් අයට වැඩ කරන දේ (එත් නොකරන දේ)
- මෙම දේවල් නිර්මාණය කරන සමාජයට එකතු වන්න: r/selfhosted, r/homelab, r/LocalLLaMA
If you’re business-minded:
- There’s a service economy emerging around edge AI setup and maintenance
- Families want digital sovereignty but don’t know how to build it
If you just care about digital freedom:
- Support projects building alternatives
- Don’t buy the first subsidized AI box that ships
- අන්තර්ජාලය decentralized වූ විට මතක් කරන අය සමඟ මෙය බෙදා ගන්න
Cloud vs. Edge: සැබෑ සංඛ් යාව
Cloud AI (ChatGPT Plus, Claude Pro):
- මුලින්ම මිල: $0
- Annual cost: $240-$600 ($20-50/month)
- 3-year total: $720-$1,800
- Data privacy: Your conversations leave home and train corporate models
Edge AI (DIY Setup):
- ඩොලර් 2500 (AMD Ryzen AI Max + System)
- වාර්ෂික වියදම: $ 100-$ 200 (පලක්ෂය, රැකියා)
- 3 වසර සම්පූර්ණ: $2,800-$3,100
- තොරතුරු පෞද්ගලිකත්වය: හැමදේම දේශීයයි
The math works: $2,500 one-time hardware cost versus $20–50/month subscriptions forever. But the real value is privacy.
අපි ඉන්නේ 1993 මොහොතේ
In 1993, you could still choose a decentralized internet. By 2003, the platforms had won.
2025 දී, ඔබ තවමත් අර්ධ AI ස්වාධීනත්වය තෝරා ගත හැකිය.2027 දක්වා, විවිධ කර්මාන්ත අනාවැකි ප්රධාන ප්රතිඵලයක් ප්රදර්ශනය කරයි:60% of new PCs will be AI-capable,AI පරිගණකය ලොව පුරා 10x වර්ධනය වෙයිඑවිට ස්වභාවික පද්ධති ඇතුළත් කරනු ඇත.
වේදිකාව දැන් විවෘත වේ Pied Piper හි දර්ශනය පරිශීලකයන් වෙනුවට වේදිකාවන්ට සේවය කරන අමුද්රව්ය තාක්ෂණය තාක්ෂණය තාක්ෂණිකව හැකි වේ.
එහෙත් ජනේල සදාකාලිකව විවෘත නොවනු ඇත.
The Bottom Line
The Box is coming. The question is: will you build it, or will Big Tech build it for you?
The next 2–3 years will determine whether families own their AI or rent it forever. The hardware exists. The models are available. The only missing piece is the decision to act.
Industry analysts project that by 2027, AI will be integrated into nearly all business software, with ගෝලීයව ලබා ගත හැකි AI පරිගණක 10x වර්ධනය කිරීමට බලාපොරොත්තු වේසහthe AI market approaching $1 trillion. The hardware exists. The models are available. The market needs it. The only question is: who controls it?
ඔබ මොනවද හිතන්නේ?අපි අනාගතය ගොඩනඟනවාද නැත්නම් ඩෙංගු නිදහසේ සටන්කරුවන් ලෙස සෙල්ලම් කරමුද?
