Perché dovresti sempre essere sotto controllo
diTL;DR: Mantieni sempre il controllo quando usi gli strumenti AI. La fiducia cieca può condurti a errori costosi.
di
TL;DR: Mantieni sempre il controllo quando usi gli strumenti AI. La fiducia cieca può condurti a errori costosi.
La sfida
Scrivo diversi articoli ogni settimana e volevo automatizzare le parti ripetitive del mio processo.
La minaccia
Questa settimana, un memo interno del CEO di Shopify, Tobias Lutke, è diventato virale.
diTL;DR: Il memorandum richiede che i dipendenti di Shopify siano abili negli strumenti AI.
di
TL;DR: Il memorandum richiede che i dipendenti di Shopify siano abili negli strumenti AI.
Le competenze sono ora obbligatorie
Le competenze sono ora obbligatorieL'uso efficace dell'IA non è più facoltativo in Shopify; è un'aspettativa di base per tutti i dipendenti, indipendentemente dal ruolo.
Il mancato utilizzo di AI richiede giustificazione
Il mancato utilizzo di AI richiede giustificazioneI dipendenti devono dimostrare perché l’intelligenza artificiale non può essere utilizzata prima di richiedere risorse aggiuntive (ad esempio, più personale o tempo).
AI nello sviluppo del prodotto
AI nello sviluppo del prodottoL’intelligenza artificiale deve essere integrata nelle fasi iniziali (fase di prototipo) di tutti i progetti GSD (get shit done).
Responsabilità delle prestazioni
Responsabilità delle prestazioniShopify sta aggiungendo l'uso dell'IA ai suoi criteri di performance e di revisione, rendendo l'adozione dell'IA parte del modo in cui i dipendenti vengono valutati e premiati, compresi i team di leadership e di gestione.
Non lavoro su Shopify, e non sono affiliato con l'azienda.
Il mio contesto
Prendo gli strumenti AI come aiutanti e uno strumento obbligatorio sia come sviluppatore di software che come scrittore, e mi affido molto a loro.
Ho usato AI per 10 anni, scrivendo suIntelligenza artificialedi fareRicostruzioni AI-AssistedUtilizzare strumenti automatizzati per scrivereCodice pulitodi .
Sono anche un sostenitore del codice Vibe professionale.
In ogniConferenzadiArticolo, e carta che scrivo, incoraggio gli esseri umani ad abbracciare gli strumenti AI e usarli pesantemente (con cautela).
Ho due citazioni (non le mie):
diDevi sempre essere sotto controllo.
di
Devi sempre essere sotto controllo.
e
diAI non prenderà il tuo lavoro, ma un essere umano che lo utilizza certamente lo farà; dovresti diventare quella persona.
di
AI non prenderà il tuo lavoro, ma un essere umano che lo utilizza certamente lo farà; dovresti diventare quella persona.
(Questo si può vedere aldi 53:40di questa conferenza)
Non pensare troppo alle cose
Questa settimana, ho dovuto fare alcuni test locali usando Python.
Scrivo articoli in oltre 25 diversi linguaggi di programmazione e non li ho tutti installati localmente.
A volte utilizzo macchine virtuali, codelab eriproduzione.itCorrere su siti web.
Questa volta, ho dovuto installare rapidamente Python localmente (un compito accidentale).
Iniziò con un’idea semplice: automatizzare alcune cose, risparmiare tempo, essere intelligenti.
Ho fatto quello che molte persone stanno facendo ora.
Io ho risposto velocemente, con fiducia, come mille volte prima.
Spoiler: Ho creduto ciecamente.Un comando dopo, il mio sistema operativo è stato toast.
Cosa è andato storto
nel mioCodici di odoreArticoli, uso i 10 strumenti di programmazione AI più popolari.
Ho appena aperto uno di loro (ChatGPT) e lo ha invitato a darmi alcuni comandi per installare Python sul mio Ubuntu.
diDai un comando per installare Python in Ubuntu
di
Dai un comando per installare Python in Ubuntu
Fino alla scorsa settimana ho sempre scritto:
diCiao, per favore, dai un comando per installare Python in Ubuntu
di
Ciao, per favore, dai un comando per installare Python in Ubuntu
Ma ora sono consapevole che quei token extra consumano molte risorse (acqua, per esempio), e non sono più cortese alle macchine.
La risposta è breve e chiara:
disudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y
di
sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y
Non mi preoccupavo di leggerlo.
Io uso Linux da più di 20 anni.
Ho digitato la mia password meccanicamente (io stavo usando sudo per installare il pip), e sono andato a preparare la cena.
Quando sono tornato, il terminale ha mostrato un elenco molto lungo di comandi. Questo era strano. volevo solo installare Python (con pip, che è il gestore di pacchetti).
Il problema (come potreste aver scoperto finora) era questa linea innocente:
disudo apt aggiornamento -y
di
sudo apt aggiornamento -y
Che ha aggiornato (e mattato) il mio computer personale.
ChatGPT ha deciso che è stata una decisione molto buona per aggiornare il sistema operativo prima.
Sono d'accordo che mantenere un sistema operativo aggiornato è una buona decisione per avere le ultime protezioni, ma questo è qualcosa che devi pianificare, avere un buon backup, e non qualcosa che fai casualmente.
Il sistema è stato tagliato, e lo sono stato anche io.
Uno sguardo attento al comando (e una domanda agli altri IA) darà una risposta più accurata (e più sicura):
diSudo apt aggiornamento
di
Sudo apt aggiornamento
Perché è successo a me?
Sono stato perfettamente in grado di leggere un forum o googling (chi googla qualsiasi cosa oggi, BTW?).
Sono anche un predicatore di non fidarsi cieco degli AI, e lo imporro su di loro.Ogni articoloIo scrivo .
Questo non dovrebbe accadere a qualcuno come me.
Siamo dei rettili
Il nostro cervello è un maestro di efficienza.
Ogni decisione che prendiamo consuma energia, quindi la parte più antica del nostro cervello, il cosiddetto "cervello rettile", si è evoluto per ottimizzare per la sopravvivenza, non per il pensiero profondo.
Richiede reazioni rapide, minimo sforzo e zero sprechi di zucchero.
Per questo ama la delegazione.
Ma cosa succede quando la cosa a cui stai delegando è una macchina?
Lo fai tutti i giorni: segui le istruzioni GPS senza metterle in discussione, ti affidi all'autocomplete per finire i tuoi pensieri e lascia che un motore di raccomandazione ti dica cosa guardare, comprare o leggere.
Sulla superficie, questo sembra convenienza.
Sotto, è un breve tratto biologico.
Le risorse decisionali del tuo cervello sono limitate.Per evitare la stanchezza, sfrutta le scelte dove possibile.
Le routine e le heuristiche ti permettono di funzionare in un mondo complesso senza essere sopraffatto.
Ma quando questo riflesso primitivo prende il controllo, smetti di chiedere “perché?” – e questo è quando le cose diventano rischiose.
L’illusione della competenza
Uno degli aspetti più pericolosi della delegazione AI è l'illusione della competenza. Una macchina che parla eloquentemente, formatta correttamente o genera codice di lavoro appare intelligente.
Ma dietro il polacco possono rimanere ragionamenti superficiali, interpretazioni sbagliate o persino contenuti allucinati.
Non ti accorgi perché la tua pigrizia cognitiva entra in gioco.
La parte più profonda, analitica del tuo cervello - la tua corteccia prefrontale - non viene mai coinvolta.
Questo è esattamente il modo in cui la disinformazione si diffonde, è anche il modo in cui i bug vengono distribuiti, i contratti si sbagliano e i sistemi falliscono.
Delegazione senza responsabilità
Il costo umano delle decisioni di intelligenza artificiale difettose è già qui: le persone vengono negate la copertura sanitaria, contrassegnate come fraudolente o imprigionate sulla base di previsioni algoritmiche.
Quando deleghi una decisione a un sistema che non capisci e non controlli, hai ceduto all'agenzia. peggio: hai ceduto alla responsabilità.
“L’algoritmo ha detto così” diventa uno scudo.
Come combattere il rettile dentro di te
La delegazione non è intrinsecamente cattiva, ma devi renderla consapevole.
- di
- Verificare l'uscita di qualsiasi AI che usi, specialmente per attività critiche di
- Comprendere i limiti del sistema su cui ti affidi di
- Riprendere la responsabilità delle decisioni, anche quando gli strumenti le rendono più facili di
Chiedete a voi stessi:
diOsservare questo perché è efficiente – o perché sono pigro?”
di
Osservare questo perché è efficiente – o perché sono pigro?”
Solo questa domanda può riattivare il tuo cervello razionale.
Conclusione
Il cervello vuole sopravvivere.
Non importa se il tuo software funziona, il tuo modello è giusto o il tuo rapporto è accurato.
Voleva solo sbarazzarsi degli sforzi.
Questo ha funzionato bene nella giungla.
Ma non in un mondo in cui le decisioni hanno conseguenze digitali.
La delegazione senza controllo non è efficienza, è abdicazione.
E se non rimani nel controllo delle tue decisioni, qualcuno – o qualcosa – lo farà.