675 letture
675 letture

Da utile a dannoso: come le raccomandazioni AI hanno distrutto il mio sistema operativo

di Maximiliano Contieri6m2025/04/21
Read on Terminal Reader

Troppo lungo; Leggere

Mantieni sempre il controllo quando usi gli strumenti AI. La fiducia cieca può condurti a costosi errori.
featured image - Da utile a dannoso: come le raccomandazioni AI hanno distrutto il mio sistema operativo
Maximiliano Contieri HackerNoon profile picture
0-item
1-item
2-item

Perché dovresti sempre essere sotto controllo

di

TL;DR: Mantieni sempre il controllo quando usi gli strumenti AI. La fiducia cieca può condurti a errori costosi.

di

TL;DR: Mantieni sempre il controllo quando usi gli strumenti AI. La fiducia cieca può condurti a errori costosi.

La sfida

Scrivo diversi articoli ogni settimana e volevo automatizzare le parti ripetitive del mio processo.

La minaccia

Questa settimana, un memo interno del CEO di Shopify, Tobias Lutke, è diventato virale.

di

TL;DR: Il memorandum richiede che i dipendenti di Shopify siano abili negli strumenti AI.

di

TL;DR: Il memorandum richiede che i dipendenti di Shopify siano abili negli strumenti AI.


Le competenze sono ora obbligatorie

Le competenze sono ora obbligatorie

L'uso efficace dell'IA non è più facoltativo in Shopify; è un'aspettativa di base per tutti i dipendenti, indipendentemente dal ruolo.

Il mancato utilizzo di AI richiede giustificazione

Il mancato utilizzo di AI richiede giustificazione

I dipendenti devono dimostrare perché l’intelligenza artificiale non può essere utilizzata prima di richiedere risorse aggiuntive (ad esempio, più personale o tempo).

AI nello sviluppo del prodotto

AI nello sviluppo del prodotto

L’intelligenza artificiale deve essere integrata nelle fasi iniziali (fase di prototipo) di tutti i progetti GSD (get shit done).

Responsabilità delle prestazioni

Responsabilità delle prestazioni

Shopify sta aggiungendo l'uso dell'IA ai suoi criteri di performance e di revisione, rendendo l'adozione dell'IA parte del modo in cui i dipendenti vengono valutati e premiati, compresi i team di leadership e di gestione.


Non lavoro su Shopify, e non sono affiliato con l'azienda.

Il mio contesto

Prendo gli strumenti AI come aiutanti e uno strumento obbligatorio sia come sviluppatore di software che come scrittore, e mi affido molto a loro.

Ho usato AI per 10 anni, scrivendo suIntelligenza artificialedi fareRicostruzioni AI-AssistedUtilizzare strumenti automatizzati per scrivereCodice pulitodi .

Sono anche un sostenitore del codice Vibe professionale.

In ogniConferenzadiArticolo, e carta che scrivo, incoraggio gli esseri umani ad abbracciare gli strumenti AI e usarli pesantemente (con cautela).

Ho due citazioni (non le mie):

di

Devi sempre essere sotto controllo.

di

Devi sempre essere sotto controllo.

e

di

AI non prenderà il tuo lavoro, ma un essere umano che lo utilizza certamente lo farà; dovresti diventare quella persona.

di

AI non prenderà il tuo lavoro, ma un essere umano che lo utilizza certamente lo farà; dovresti diventare quella persona.

(Questo si può vedere aldi 53:40di questa conferenza)

Non pensare troppo alle cose

Questa settimana, ho dovuto fare alcuni test locali usando Python.

Scrivo articoli in oltre 25 diversi linguaggi di programmazione e non li ho tutti installati localmente.

A volte utilizzo macchine virtuali, codelab eriproduzione.itCorrere su siti web.

Questa volta, ho dovuto installare rapidamente Python localmente (un compito accidentale).

Iniziò con un’idea semplice: automatizzare alcune cose, risparmiare tempo, essere intelligenti.

Ho fatto quello che molte persone stanno facendo ora.

Io ho risposto velocemente, con fiducia, come mille volte prima.

Spoiler: Ho creduto ciecamente.Un comando dopo, il mio sistema operativo è stato toast.

Cosa è andato storto

nel mioCodici di odoreArticoli, uso i 10 strumenti di programmazione AI più popolari.

Ho appena aperto uno di loro (ChatGPT) e lo ha invitato a darmi alcuni comandi per installare Python sul mio Ubuntu.

di

Dai un comando per installare Python in Ubuntu

di

Dai un comando per installare Python in Ubuntu

Fino alla scorsa settimana ho sempre scritto:

di

Ciao, per favore, dai un comando per installare Python in Ubuntu

di

Ciao, per favore, dai un comando per installare Python in Ubuntu

Ma ora sono consapevole che quei token extra consumano molte risorse (acqua, per esempio), e non sono più cortese alle macchine.

La risposta è breve e chiara:

di

sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y

di

sudo apt update && sudo apt upgrade -y && sudo apt install python3 python3-pip -y

Non mi preoccupavo di leggerlo.

Io uso Linux da più di 20 anni.

Ho digitato la mia password meccanicamente (io stavo usando sudo per installare il pip), e sono andato a preparare la cena.

Quando sono tornato, il terminale ha mostrato un elenco molto lungo di comandi. Questo era strano. volevo solo installare Python (con pip, che è il gestore di pacchetti).

Il problema (come potreste aver scoperto finora) era questa linea innocente:

di

sudo apt aggiornamento -y

di

sudo apt aggiornamento -y

Che ha aggiornato (e mattato) il mio computer personale.

ChatGPT ha deciso che è stata una decisione molto buona per aggiornare il sistema operativo prima.

Sono d'accordo che mantenere un sistema operativo aggiornato è una buona decisione per avere le ultime protezioni, ma questo è qualcosa che devi pianificare, avere un buon backup, e non qualcosa che fai casualmente.

Il sistema è stato tagliato, e lo sono stato anche io.

Uno sguardo attento al comando (e una domanda agli altri IA) darà una risposta più accurata (e più sicura):

di

Sudo apt aggiornamento

di

Sudo apt aggiornamento

Perché è successo a me?

Sono stato perfettamente in grado di leggere un forum o googling (chi googla qualsiasi cosa oggi, BTW?).

Sono anche un predicatore di non fidarsi cieco degli AI, e lo imporro su di loro.Ogni articoloIo scrivo .

Questo non dovrebbe accadere a qualcuno come me.

Siamo dei rettili

Il nostro cervello è un maestro di efficienza.

Ogni decisione che prendiamo consuma energia, quindi la parte più antica del nostro cervello, il cosiddetto "cervello rettile", si è evoluto per ottimizzare per la sopravvivenza, non per il pensiero profondo.

Richiede reazioni rapide, minimo sforzo e zero sprechi di zucchero.

Per questo ama la delegazione.

Ma cosa succede quando la cosa a cui stai delegando è una macchina?

Lo fai tutti i giorni: segui le istruzioni GPS senza metterle in discussione, ti affidi all'autocomplete per finire i tuoi pensieri e lascia che un motore di raccomandazione ti dica cosa guardare, comprare o leggere.

Sulla superficie, questo sembra convenienza.

Sotto, è un breve tratto biologico.

Le risorse decisionali del tuo cervello sono limitate.Per evitare la stanchezza, sfrutta le scelte dove possibile.

Le routine e le heuristiche ti permettono di funzionare in un mondo complesso senza essere sopraffatto.

Ma quando questo riflesso primitivo prende il controllo, smetti di chiedere “perché?” – e questo è quando le cose diventano rischiose.

L’illusione della competenza

Uno degli aspetti più pericolosi della delegazione AI è l'illusione della competenza. Una macchina che parla eloquentemente, formatta correttamente o genera codice di lavoro appare intelligente.

Ma dietro il polacco possono rimanere ragionamenti superficiali, interpretazioni sbagliate o persino contenuti allucinati.

Non ti accorgi perché la tua pigrizia cognitiva entra in gioco.

La parte più profonda, analitica del tuo cervello - la tua corteccia prefrontale - non viene mai coinvolta.

Questo è esattamente il modo in cui la disinformazione si diffonde, è anche il modo in cui i bug vengono distribuiti, i contratti si sbagliano e i sistemi falliscono.

Delegazione senza responsabilità

Il costo umano delle decisioni di intelligenza artificiale difettose è già qui: le persone vengono negate la copertura sanitaria, contrassegnate come fraudolente o imprigionate sulla base di previsioni algoritmiche.

Quando deleghi una decisione a un sistema che non capisci e non controlli, hai ceduto all'agenzia. peggio: hai ceduto alla responsabilità.

“L’algoritmo ha detto così” diventa uno scudo.

Come combattere il rettile dentro di te

La delegazione non è intrinsecamente cattiva, ma devi renderla consapevole.

    di
  • Verificare l'uscita di qualsiasi AI che usi, specialmente per attività critiche
  • di
  • Comprendere i limiti del sistema su cui ti affidi
  • di
  • Riprendere la responsabilità delle decisioni, anche quando gli strumenti le rendono più facili
  • di

Chiedete a voi stessi:

di

Osservare questo perché è efficiente – o perché sono pigro?”

di

Osservare questo perché è efficiente – o perché sono pigro?”

Solo questa domanda può riattivare il tuo cervello razionale.

Conclusione

Il cervello vuole sopravvivere.

Non importa se il tuo software funziona, il tuo modello è giusto o il tuo rapporto è accurato.

Voleva solo sbarazzarsi degli sforzi.

Questo ha funzionato bene nella giungla.

Ma non in un mondo in cui le decisioni hanno conseguenze digitali.

La delegazione senza controllo non è efficienza, è abdicazione.

E se non rimani nel controllo delle tue decisioni, qualcuno – o qualcosa – lo farà.

Trending Topics

blockchaincryptocurrencyhackernoon-top-storyprogrammingsoftware-developmenttechnologystartuphackernoon-booksBitcoinbooks