دا Open-Source AI د نړۍ په څیر چمتو کوي لکه ChatGPT متنونه چمتو کوي

How a rocket scientist turned entrepreneur created the “ChatGPT for Earth data” using transformers and satellite imagery

د برنو سانچسیکس یوه راکټ سائنسدان دی چې د ځینې پیژندلونه لري. د روزنې له خوا د سټروفیزیکس، هغه د خپل سوداګرۍ وسایلو - ریاضیات او علومو - په ډیری پراخه کچه کارول: د نړۍ. په ځینې وختونو کې، په هرصورت، د هغه تمرکز د دې وسایلو کارولو لپاره د ځمکې ته ډیری هدفونو لپاره بدل شوی.

د سانچس په نړۍ بانک کې کار وکړ، په څیر چې دا د تعلیمي ټیمونو په برخه کې د جغرافیایي معلوماتو په اړه پوه شي. بيا هغه پوه شي چې هغه څه چې هغه کار کوي د کارپوریشن دی، کوم چې هغه یې د کارپوریشن په اړه د آنلاین نقشه وړاندې کولو لپاره د Mapbox په نوم یو شرکت پیل کړي.

دا تجربه د Sanchez لپاره یو بل درکوي - چېموږ د ځمکې په اړه ډیری معلومات لريچې موږ په حقیقت کې نه پوهیږو چې څنګه دا کاروي: "او موږ پوهیږو چې په ټوله نړۍ کې څومره دي. موږ پوهیږو چې په ټوله نړۍ کې څومره دي. دا یوازې د [د معلوماتو] مناسب پروسس په اړه دی".

نو کله چې هغه فرصت ترلاسه کړ چې په ورته ډاټا سینټ کې او په یوه workbench کې د ټولو په ګډه کولو هڅه کړي، هغه د دې لپاره چمتو کړ. دا د مائیکروسافټ کې د سیاره کمپیوټر پروژې وه، او د سانچس په لټه کې وه. بيا، ChatGPT واقع شوی.

د سانچس په یاد ولرئ چې په ChatGPT کې T - دبدلون– دا یو آرکټریټ دی چې د متن، انځورونه، او آډیو لکه ډولونو لپاره ښه کار کوي، مګر هیڅکله دا د ځمکې ډاټا لپاره کار نه کوي. نو هغه فیصلہ کړ چې دا هڅه وکړي. هغه یو ټیم جوړ کړ، پیسې راټول کړ، یو غیر فایبر جوړ کړ، او د پرانیستې ډاټا په کارولو سره یو Open Source ماډل جوړ کړ. او دا دا ده چې څنګهد Clayتوليد شوي دي

Clay: the ChatGPT of Earth data?

"نه حیرانتیا ده. دا په اندازه د چټک، ارزانه، او د هر څه په پرتله ښه ده چې موږ هیڅکله وګورئ، کوم چې دقیقا د متن او انځورونو او غږونو سره واقع دی. دا بیا د دې د ثبوت دی چې د ChatGPT، د ترانسپورت، یو حیرانتیا لرونکي بشري اختراع دی. "

"نه حیرانتیا ده. دا په اندازه د چټک، ارزانه، او د هر څه په پرتله ښه ده چې موږ هیڅکله وګورئ، کوم چې دقیقا د متن او انځورونو او غږونو سره واقع دی. دا بیا د دې د ثبوت دی چې د ChatGPT، د ترانسپورت، یو حیرانتیا لرونکي بشري اختراع دی. "

نو دقیقا دا څه دی Clay - دا څه کوي، او څنګه کار کوي؟ Sánchez د Clay په غیر معمولي حالت کې د آرشیفیکټیک په توګه موقعیت کوي. دا یو پروسیسر دی چې د ځمکې په هر ډول ډول انځورونه (د ټیټیټ، الوتکې، یا ډرون) ترلاسه کوي او په انځور کې څه دی. دا کولی شي هرobject راټول کړي - له الوتکې څخه د زراعتونو ته او د اوبو څخه د کڅوړو ته، او دا کولی شي په انځور کې د هغه شمېر حساب کړي.

که څه هم Clayد ChatGPT له خوا اغیزمناو د ټرانسفرر آرشیفیکټ کاروي، دا د ځمکې د معلوماتو ChatGPT په نوم به د ډیری دلیلونو له امله دقیق نه وي.

یو اصلي فرق دی چې د معلوماتو ډول چې Clay د زده کړې دي - انځورونه نه متن. چې په ځان کې د بنسټیز غټ دی، چې د دې انځورونو طبيعت، او څنګه د ماډل کارول کیږي په نظر کې حتی ډیر عالي وي.

اوسپنې نه په هر ډول انځورونو کې روزل شوی دی، مګر د ډیری ځانګړي ډول انځورونه: د هوايي نندارتونونه چې د ځمکې په برخه کې ديد عمومي ډاټا سیټونهدا د لوړ کیفیت د ډاټا سیټ لپاره ډیر تخصص لري. سانچس اشاره وکړه چې دا د دې دلیل څخه برخه ده چې هلیکسینشنونه، د ترانسپورټر پر بنسټ د ماډلونو کې ترټولو ښکلي ستونزو څخه یو، د Clay سره ډیر کم ستونزه ده.

مګر نور دي. Clay، لکه ChatGPT او د هغې ilk، پر بنسټنندارتونونه– د ډاټا د لوړ اندازې شمولیتونه چې دا کار کوي. مګر د ډاټا سره چې Clay کار کوي، د انډولونو چې دا تولید کوي او د دوی کارولو لاره مختلف دي.

په پرتله د خپل همکارانو سره، اوس مهال د Clay سره د اړیکو سره د متن انټرنیټ اړتیا نلري. دا په هرصورت د Clay له لارې نلري. په عوض، د Clay ټیم د خلکو ته د نمونې کارولو ته وده ورکوي، او بیا په مستقیم ډول سره کار کوي.

The power of embeddings

لکه څنګه چې د سانسسسس توضیح کړ، Clay د ګټورد AutoEncoders ماسکپدې معنی ده چې انځورونه نه یوازې د دوی د نښلیدو نندارتونونو له لارې کم شوي دي، بلکه د انځور برخو هم حذف شوي دي. بيا د ماډل باید ټولې انځور رامینځته کړي.

د مثال په توګه، که د انځور کې د ځینې برخو شامل دي، نو احتمالا دا معنی لري چې نور برخو هم موجود دي. نو د نمونوي باید د کمولو له لارې درک شي، خو هم د کنکشن له لارې.

Masked AutoEncoders کوډرونه او decoders کاروي، او Clay ته اجازه ورکويد انسان د معلوماتو نښلونکی پرته کچهیا د نمونوي څارنې اړتیا. په اصل کې، د مفکورې ماډل روزنه کول، او بیا د ډکډرونو لپاره یوازې د ځانګړي کارونو لپاره، لکه د موټرونو حساب کولو لپاره.

خو وروسته، د Clay ټیم پوه شي چې دوی کولی شي د نښلیدو جوړ کړي چې په ټولیز ډول کارول کیږي. نو دوی د نښلیدو جوړ کړي، او بیا دوی د نښلیدو کاروي ترڅو د ډکډر جوړ کړي، د کوډر له لارې. د اصلي انگیزه دا ده چې دا په میلی ثانیو کې ځوابونه ترلاسه کوي، نه په اونۍ کې. یوازې د نښلیدو او یود ویکټر ډاټاباید کار وکړي، لکه څنګه چې د Sanchez:

"کرمئ چې موږ یو کاروونکي لرو چې په یونان کې د شمسی پینلونه لرو، او موږ د ټولو یونان لپاره انډولونه جوړ کړ. نو دا په لوړه کچه milliseconds دی چې پوه شي؛ موږ ممکن د بشپړ ځواب نه لري، مګر موږ به د شمسی پینلونو په اړه یو ښه ځواب ولري.

"کرمئ چې موږ یو کاروونکي لرو چې په یونان کې د شمسی پینلونه لرو، او موږ د ټولو یونان لپاره انډولونه جوړ کړ. نو دا په لوړه کچه milliseconds دی چې پوه شي؛ موږ ممکن د بشپړ ځواب نه لري، مګر موږ به د شمسی پینلونو په اړه یو ښه ځواب ولري.

وروسته، که څه هم یو بل څوک به یوځای شي او غواړم څه بل، لکه کڅوړه یا ساختماني، د دې نوي عملیاتو لپاره ورته انډولونو کارول کیږي. دا معنی لري چې تاسو یوازې یو ځل باید دوی جوړ کړئ. دا د انډولونو قدرت دی. دا جامع مخکښ، د ډیری ځوابونو لپاره ډیری لاره ده. "

وروسته، که څه هم یو بل څوک به یوځای شي او غواړم څه بل، لکه کڅوړه یا ساختماني، د دې نوي عملیاتو لپاره ورته انډولونو کارول کیږي. دا معنی لري چې تاسو یوازې یو ځل باید دوی جوړ کړئ. دا د انډولونو قدرت دی. دا جامع مخکښ، د ډیری ځوابونو لپاره ډیری لاره ده. "

Clay meets Plato

د نښلولونو جامعیت یو موضوع دی چې د AI ټولنې کې ډیری دلچسپي وده ورکړي. دا دلچسپي اخیستنه سره دد غیرتولیدولو لارښوونې خپریدلو چې د هر داخل کولو ته او له یو جامع مخکښ پیژندل کولو څخه ترجمه کوي.، یعنی د Platonic Representation Hypothesis په واسطه یو جامع سمینټیک جوړښت.

دد پلیټونیک representation hypothesisد ګرنل پوهنتون د څېړونکو ډلې د دې hypothesis لپاره د متن ماډلونو لپاره یو قوي، جوړښت وړ نسخه وړاندې کوي. په متوازن ډول، د Clay ټیم سره د متن په ګډون ډیری شیانو تجربې کوي.

په اړه د دقت په اړه، د سانچسز ځینې تجربي پایلې شریک کړي، په یاد ولرئ چې د ټیم د نمونې په پرتله نورو سيمو کې تمرکز کوي. د اوسپنې نښلیدو، هغه په یاد ولرئ، ترټولو غوره کار کوي کله چې د identifyable اجزا د انځور کې د مخکښ اجزا دی. دقت هم د اجزا په اندازه پورې اړه لري، کوم چې له دې امله د مختلف اندازه نښلیدو تولید شوي دي.

برسېره پر دې، د نښلولونو ته اړتیا لري چې د ځمکې په سطحه کې د بدلونونو ته وده ورکړي - لکه طبیعي زلزله یا ساختماني کارونه. مګر د موډل ځان ته اړتیا نلري، ځکه چې د یو ځانګړي ځانګړتیاوې چې سانچسس د ځمکې په قول کې لري:د ارډوکس.

Ergodic سیسټمونه سیسټمونه دي چې په هر وخت کې د ټولو ممکن حالتونه شتون لري. د مثال په توګه، که په اسپانیا کې د هوايي بدلون له امله د میډریډ ځینې برخو په غره کې وي، دا یو څه دی چې د موډل مخکې هیڅکله نه وګورئ. مګر دا به د لومړي غره انځور نه وي چې د موډل په لټه کې وي، نو دا به اوس هم د دې سره کار وکړي.

یوځای کړئ Orchestrate ALL THE THINGS Newsletter

د ټیکنالوژۍ، ډاټا، AI، او رسنیو څرنګه چې زموږ ژوندونه جوړوي.

تحلیل، Essays، انټرنیټونه او خبرونه. منځنۍ تا اوږد فورمه، په میاشت کې 1-3 ځله.

دلته ثبت کړئ 🙂https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/

Multi-modality: Clay and text

مګر د متن په اړه څه؟ سانچس به پوه شي چې د متن ماډلونو د قدرت سره د ځمکې ماډلونو د قدرت سره یوځای شي به د نورو امکاناتو لړ ونیسئ. د کلین Multi-modal کولو به دا اجازه ورکوي چې د متن سمینټیک شواهد په کارولو سره د اړیکو په لټه کې ونیسئ. د مثال چې سانچس په دې کې کارول کیږي دا دی چې د رنګونو په لټه کې د جنگلونو په لټه کې ونیسئ.

د ټیم په فعال ډول په دې کې کار کوي، مګر سانچس اشاره کوي چې متن ډاټا ستونزې وړاندې کوي چې د ځمکې ډاټا نه کوي، په عمده توګه د واقعیت سره تړاو لري. اوس مهال، د Clay ټیم په کارولو سره تجربې کويد OpenStreetMaps.

لومړی، دوی د ځمکې د انځور د نښی په توليدولو لپاره Clay کاروي. بیا دوی د ورته انځور ترلاسه کوي او د OpenStreetMaps API کاروي ترڅو د ورته سيمه کې نښی په لټه کې کړي. OpenStreetMaps د ځانګړتیاوو سره ځواب ورکوي لکه د صحرا، یو رود، یا د پارکنگ ځای، او د متن ماډل د دې نښی په جوړولو لپاره کارول کیږي.

وروسته، د ډلې د دې ځای د 2 داخلې - یو له Clay څخه او یو له متن ماډل څخه - واخلئ او دوی هڅه کوي چې څنګه دوی ته راټول کړي. هدف دا ده چې د کڅوړې کم کړي کله چې یو له بل څخه بیا رسیږي یا شبه لري. د clay داخلې باید د خپلو همکارانو د متن داخلاتو په څیر وي، ځکه چې دوی د ورته څه کوډوي حتی که modality د مختلفو دي.

AI and environmental impact

د ترانسپورتونو په اړه د هغې د خوښۍ له الرې، د سانچسیکس اعتراف کوي چې دوی بشپړ نه دي. د ترانسپورت آرشیفیت د Clay لپاره غوره شوي اصلي دلیل دا دی چې صنعت او څیړنې د دې پیژندل شوي دي، نو ډیری سرچینې او تخصصونه شتون لري چې کولی شي د کارولو لپاره کارول شي.

"اگر زه له نه څخه انتخاب وکړم او زه د AI نړۍ د حرکت لپاره د مالیې لري، شاید موږ د ټرانسفرټرونو لپاره غوره نه وي، مګر دا فیصلہ زموږ په لاس کې نه دی،" د سانسسسس وايي.

د کنټرولرونو اصلي نقصونه چې د Clay ټیم سره ترسره شوي دي د ډاټا او کمپیوټرونو مقدار سره تړاو لري چې د ماډلونو روزنې لپاره اړتیا لري، او د دوی حساسیت. که څه هم د کیفیت د ډاټا کمښت نه لري چې د Clay روزنې ته اړتیا لري،د کمپیوټر د ستونزو دیدا نور ډاټا او کمپیوټر ته اړتيا لري چې د ګمرک موډلونه تولید کړي، او د پايلې پایلې خړ دي او ډیر تخصصي.

د Clay ټیم د پیسو جمع کولو مخکې د مفهوم د ثبوت سره پیل کړی ترڅو د ماډل تولید لپاره اړتیا لرونکي پراخه روزنې ترسره کړي. د Clay ماډل تر اوسه پورې یوازې 2 iterations شتون نلري، او سانچس غواړم چې د روزنې اړتیا کم کړي - له دې امله د نښلیدو کارول.

د مایکروسافټ د سیاره کمپیوټر کې د هغه کار کولو له امله، سانچس به ښه پوه شي چې د بریښنا، اوبو، او نورو سرچینو په اړه د انټرنېټ په حد کې څومره اړتیا لري. د AI کارولو هڅو لپاره د چاپیریال خرابیت کمولو لپاره د انټرنټ په احتمال کې د هغه په پام کې نلري. هغه بیان کوي چې دا د هغه دلیل څخه دی چې څومره یو غیر فایبر دی.

د مفکوره، هغه وايي، دا دی چې Clay نه یوازې په خپل محصول، خو هم په څرنګه چې د ډلې کار کوي او د لارښوونې. هغه څه چې دوی هڅه کوي دا ده چې د کمولو کې مرسته وکړي.د AI د چاپیریال پايپپه دوو حالتونو کې د ځمکې لپاره.

لومړی، د ورته هدفونو سره خلکو ته د قوتونو سره یوځای کولو له لارې، نو د نورو ماډلونو روزنې په ځای کې، دوی Clay په څیر یوځای کیږي. دوهم، د هغو خلکو سره شریک کولو له لارې چې هنوز هم خپل ځان کار وکړي، نو دوی کولی شي د Clay تجربه څخه زده کړي او د روزنې اړین مقدار کم کړي.

Working with Clay and LGND

دا ټول ښه او ښه دی، مګر په واقعیت کې د خلکو لپاره غوره لاره دا ده چې Clay کاروي؟ دا یو پرانیستې پوښتنه ده. د نښلیدو او fin-tuning، چې د تخصص او سرچینې ته اړتیا لري، او متن، چې تجربي ده، د Clay ټیم هم د یو غوښتنلیک جوړ شوی دی.د Clay Explore.

دا یو نقشه دی. تاسو ځایونو ته کلیک وکړئ، او دا تاسو ته اجازه ورکوي چې شیان ونیسئ. خو بيا موږ ځان ته پوښتنه - دا یو نقشه ده ځکه چې دا یو نقشه وي یا ځکه چې زه د نقشهونو لپاره کارول کیږي ځکه چې زه په دې صنعت کې هستم او زه غواړم چې یو نقشه وي؟

دا یو نقشه دی. تاسو ځایونو ته کلیک وکړئ، او دا تاسو ته اجازه ورکوي چې شیان ونیسئ. خو بيا موږ ځان ته پوښتنه - دا یو نقشه ده ځکه چې دا یو نقشه وي یا ځکه چې زه د نقشهونو لپاره کارول کیږي ځکه چې زه په دې صنعت کې هستم او زه غواړم چې یو نقشه وي؟

موږ فکر کوو که څه هم د Clay ګټورۍ د کثافاتو د کثافاتو د کثافاتو د کثافاتو د کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثاف

موږ فکر کوو که څه هم د Clay ګټورۍ د کثافاتو د کثافاتو د کثافاتو د کثافاتو د کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثافاتو کثاف

Sánchez هم د خدمتونو د وړاندې کولو او د Clay په اړه د توليداتو پراختیا لپاره چمتو کويد نندارتون، چې هغه په 2024 کال کې جوړه شوه. دا د لومړي ورځو دي، مګر د شرکت bereits ځینې پیسو پیرودونکي لري او اوس د مالیې د نږدې رنګ بند کوي.

"د مهم ترین څه دا دی چې موږ د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په

"د مهم ترین څه دا دی چې موږ د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په اړه د معلوماتو په

موږ د جغرافیایی شرکت نه دي. موږ د ځواب شرکت دی. او زموږ تر ټولو لوی خطر دا ده چې د جغرافیایی شرکت وي چې ډیری شتون لري. "

موږ د جغرافیایی شرکت نه دي. موږ د ځواب شرکت دی. او زموږ تر ټولو لوی خطر دا ده چې د جغرافیایی شرکت وي چې ډیری شتون لري. "

Going all in

د Clay او LGND لپاره روښانه موضوع دی، لکه څنګه چې سانچس د همکارۍ او د Clay څخه نورو ماډلونو کارولو لپاره روښانه دی. په ګډه، د غیر فایبر لپاره د نوي مالیاتو تضمین کولو سره، Clay پرمختګ به دوام ورکړي.

شاید د ارزښت دا دی چې دا د پرانیستې سرچینه ده. ممکن د ارزښت دا ده چې دا offline دی. موږ شرط ورکړو چې دلته څه دی. ممکن دا نه دی. ممکن موږ غلط دي او ممکن د نښلیدو نه دي.

شاید د ارزښت دا دی چې دا د پرانیستې سرچینه ده. ممکن د ارزښت دا ده چې دا offline دی. موږ شرط ورکړو چې دلته څه دی. ممکن دا نه دی. ممکن موږ غلط دي او ممکن د نښلیدو نه دي.

مګر که دا وي، یا په کچه چې دا دی، زه قوي باور لرم چې دا به د ټولنیز، اقتصادي، چاپیریال، او همدارنګه د پانګونې په اړه ډیری ستونزو ته ډیر ارزښت وړاندیز کړي.

مګر که دا وي، یا په کچه چې دا دی، زه قوي باور لرم چې دا به د ټولنیز، اقتصادي، چاپیریال، او همدارنګه د پانګونې په اړه ډیری ستونزو ته ډیر ارزښت وړاندیز کړي.

دلته ډیری څه دي چې د دې په اړه منطقي دي، چې زه په ټولو کې راځي. او زه ترټولو غوره وي چې غلط وي خو دا هڅه کړه، د دې لپاره چې انتظار وکړم چې یو تکنالوژۍ وګورئ چې زه د 100٪ تضمین ورکړي چې دا به کار وکړي. "

دلته ډیری څه دي چې د دې په اړه منطقي دي، چې زه په ټولو کې راځي. او زه ترټولو غوره وي چې غلط وي خو دا هڅه کړه، د دې لپاره چې انتظار وکړم چې یو تکنالوژۍ وګورئ چې زه د 100٪ تضمین ورکړي چې دا به کار وکړي. "

یوځای کړئ Orchestrate ALL THE THINGS Newsletter

د ټیکنالوژۍ، ډاټا، AI، او رسنیو څرنګه چې زموږ ژوندونه جوړوي.

تحلیل، Essays، انټرنیټونه او خبرونه. منځنۍ تا اوږد فورمه، په میاشت کې 1-3 ځله.

دلته ثبت کړئ 🙂https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/