Manampy, tsy miasa ny fangatahako!

Na dia eo aza ny ezaka tsara indrindra ataonareo aza, ny LLM dia mbola tsy mitondra araka ny eritreretinao. Inona no tokony hanandrana manaraka? Mamoaka ny fampitandremana ianao? Hanova ny modely? Fine-tune? Ireo rehetra ireo dia mety ho safidy manan-kery ary misy ny fehezan-dalàna mba hanandrana ireo fanitsiana ireo.

Principle V: Follow Prompt-Fix Escalation Ladder

(Ity dia ampahany amin'ny andian-dahatsoratra ao amin'ny Principles of AI Engineering: jereo ny lahatsoratra)1Ny2Ny3Ary4)

Rehefa tsy miasa araka ny eritreretiko ny fangatahana, dia miezaka ny fanitsiana manaraka amin'ny fehezan-dalàna:

1. Expanding and rephrasing instructions.

2. Adding examples.

3. Adding an explanation field.

4. Using a different model.

5. Breaking up a single prompt into multiple prompts.

6. Fine-tuning the model.

7. Throwing the laptop out the window in frustration.

   
   

Amin'ny toe-javatra sasany, ny fomba hanandrana ny zavatra dia hafa; Na izany aza, manana lalana default dia mamonjy fotoana ary mitahiry ny fahaiza-manaon'ny saina ho an'ny debugging.

Ankehitriny, aoka isika hanadihady ny fomba tsirairay. Ny telo voalohany dia hiditra ao amin'ny boaty amin'ny Prompt Engineering ary ho voafaritra bebe kokoa ao amin'ny andininy manaraka. Ny fomba maro-prompt sy Fine-tuning dia samy manana andininy manokana.

Lightweight Approaches

Adding Instructions

Ny zavatra voalohany tokony hanandrana dia ny fanazavana indray amin'ny LLM izay tokony hatao amin'ny alàlan'ny torolàlana tsotra. Manandrana mampiditra torolàlana mazava kokoa, manova teny, na manova torolàlana manodidina.

Aza misalasala ny mamerina na mamerina fehezan-dalàna maro isan-kerinandro amin'ny ampahany samihafa amin'ny fangatahana - ny LLM dia tsy mahatsiravina amin'ny fanavaozana.1Ny2Ny

Adding Examples

Ny fahasamihafana amin'ny fampianarana amin'ny sehatry ny fampianarana dia tena manan-danja indrindra raha mampiasa modely kely kokoa ianao; Tsy toy ny "intelligent" izy ireo noho izany dia mitaky torohevitra maro (3Ny

Ohatra amin'ny Prompt miaraka amin'ny 2-shot Inference (Language Detection):

Detect the language of the text and output it in the JSON format: {“language”: “name_of_language”}. If you don’t know the language, output “unknown” in the language field.

Example I:

Input: Hello

Output: {“language”: “English”}

Example II:

Input: EjnWcn

Output: {“language”: “Unknown”}

Text: {{text}}

Amin'ny ankapobeny dia mampiasa ohatra 1-3 ianao, nefa amin'ny tranga sasany dia azonao atao ny manampy bebe kokoa. Misy porofo fa ny fampisehoana dia miova amin'ny isan'ny ohatra avo kokoa (4), fa koa ny vidin'ny fanaraha-maso sy ny fampiharana.

Adding an Explanation Field

Ny LLM, toy ny olombelona, dia mahazo tombony amin'ny tsy maintsy manazava ny eritreriny. Ampidiro ny sehatry ny "fanehoan-kevitra" ao amin'ny JSON sy ny vokatra dia matetika ho tsara kokoa. Izany ihany koa dia hanampy anao hahatakatra ny antony mahatonga ny modely hanao fanapahan-kevitra sasantsasany ary hanova ny torolàlana sy ny ohatra.

Amin'ny ankapobeny, ny fanadihadiana dia manampy amin'ny fametrahana ireo antontan-taratasy izay ampiasaina amin'ny fametrahana ireo antontan-taratasy. (5Ny

Azonao atao ihany koa ny mampiasa nyNy fikarohana amin'ny fikarohana amin'ny lanjan'ny fikarohanaNy fanamby eto dia ny fanesorana tsara ny vokatra. Mety mila fangatahana faharoa na code fanampiny mba handaminana valiny amin'ny CoT famaritana.

Changing the Model

Ireo modely samihafa dia tsara amin'ny karazana asa samihafa. Ny modely o3 ao amin'ny OpenAI dia tsara amin'ny fanadihadiana ny code, fa ny tsara 4o tranainy dia matetika mamokatra soratra tsara kokoa na dia mora kokoa isaky ny token.

Ity fanandramana ity dia miasa haingana kokoa sy azo antoka kokoa rehefa manana fanandramana sy metrika ho an'ny fanombanana ny "fitiavana" ny modely tsirairay ho an'ny asa.

Heavyweight Approaches

Ny fomba rehetra hatramin'izao dia lafo vidin'ny hanandrana. Ankehitriny dia miditra amin'ny fanitsiana ny lanjany mafy isika.

Breaking Up the Prompt

Raha tsy afaka mahazo ny asa iray ianao - nahoana ianao no tsy manandrana ny rafitra roa na mihoatra? Izany dia afaka miasa mahomby amin'ny toe-javatra sasany; ny fomba roa mahazatra dia:

• Splitting the prompt by area of responsibility.

• Using a new prompt as a guardrail reviewing output of the previous one.

  
  

Ireo fomba roa ireo dia ampiasaina amin'nyNy ampahany IIIAry dia hiresaka momba izany amin'ny ampahany manaraka amin'ny antsipiriany bebe kokoa.

Fine-Tuning

Ny fanaraha-maso tsara dia fomba sarotra kokoa noho ny fampiasana fampitandremana maromaro. Ho an'ny ankamaroan'ny olana dia mampiasa izany ho vahaolana farany.

Nahoana aho no tsy manoro hevitra ny fanitsiana tsara amin'ny ankamaroan'ny toe-javatra? Ny fanitsiana tsara dia fototry ny fomba fianarana milinaNy fampiharana ny Generative AINoho izany dia mitaky fanangonana angon-drakitra be dia be sy fitaovana ML manontolo, ankoatra ny AI generative, ary izany no overhead goavana ho an'ny tetikasa kely ka hatramin'ny lehibe.

Eritrereto ny fanitsiana tsara rehefa:

• Ny teknolojia hafa dia tsy nahavita ny tanjona.
• Ny olana dia tena sarotra sy manam-pahaizana, ary ny fahalalana LLM tsy ampy.
• Manana trano fampiasana avo lenta ianao ary tianao ny hamonjy vola amin'ny fampiasana modely ambany.
• Ny fahatarana ambany dia ilaina, noho izany dia tsy afaka manatanteraka fangatahana maromaro amin'ny andian-dahatsoratra.

Conclusion

Manantena aho fa ity lahatsoratra ity dia manazava ny fehezan-dalàna tokony hataonao rehefa tsy miasa araka ny tokony ho izy ireo. Voalohany, ianao dia manandrana ny fomba fiasan'ny injeniera avy hatrany. Raha tsy miasa izany, dia miezaka manova ny modely ary jereo raha nanampy izany. Ny dingana manaraka dia mampiasa fampitandremana maro mifandray.

Raha tianao ity lahatsoratra ity - misoratra anarana bebe kokoa.