Vali a pus ieri întrebarea corectă și cred că merită un răspuns un pic mai adânc decât „niciuna”. Nu o să fiu pedantic și nu o să intru în detalii legate de ce este un model lingvistic masiv (tentant să le numim MLM, dar pentru claritate o să ținem acronimul englezesc, LLM), difuzie, învățare prin consolidare, că de fapt vorbim de generare de conținut, nu neapărat de inteligență artificială – așa că o să mă vedeți folosind interschimbabil termeni ca LLM, GPT sau AI. Nici nu o să intru în faptul că nu toate problemele legate de inteligență artificială și învățare automată sunt rezolvate/atinse de OpenAI și prietenii lor, și că mai sunt suficiente câmpuri care nu folosesc LLM-uri pentru a-și rezolva problemele.
Pentru a discuta „ce probleme rezolvă”, vreau să vă amintesc un lucru. În momentul în care nu vorbim de catastrofe naturale, pentru fiecare om a cărui viață e distrusă de partea cealaltă parte există un om care profită de pe urma distrugerii vieții acelui om. Când dinamica e „cineva suferă”, există și cineva care profită de pe urma suferinței acelui om. Pentru fiecare miliard de mesaje spam există o sută de oameni care câștigă 0.001€ pe mesaj. Think of the spammers!
Chiar dacă încerc să scriu concis o să fie o postare lungă, așa că o să fac un scurt rezumat la final. Dacă vreți să săriți peste poliloghia mea mergeți direct la final, chiar înainte de comentariile care o să-mi explice cât de tare nu mă pricep la nimic.
## Generare și analiză
Dacă este ceva la ce excelează LLM-urile moderne este generarea și analiza de conținut. O să mă uit în mod deosebit peste text, dar paralele similare se pot face și cu generarea de imagini sau sunete. La modul foarte simplu și la obiect, dacă a fost vreodată dificil sau costisitor să generezi text, acum timpul respectiv s-a redus extraordinar.
Primul loc unde s-a văzut lucrul ăsta este zona care trăiește din spam. Poți acum să creezi spam de mai mare calitate, care chiar să treacă de filtrele clasice, și poți să generezi spam la o viteză mult mai mare, și să umpli mai multe rețele sociale, mai multe inboxuri, mai multe bloguri (glumesc, nu mai citește nimeni bloguri oricum, cine mai are timp să citească?).
Dacă prin 2022-2023 discutam despre oameni din zona de management care își sumarizau mailurile și își generau mailuri cu LLM-uri, acum așteptarea e ca un om din C-suite să aibă un inbox automatizat, să funcționeze lucrurile fără el. Dar utilitatea e destul de redusă – viețile oamenilor sunt ceea ce se întâmplă în afara celor 8 ore de muncă pe care le-am câștigat prin luptă socialistă. Cu alte cuvinte, nu am nevoie de un LLM să îmi sumarizeze mesajele pe care mi le trimit prietenii, ci vreau să le citesc eu cu ochii mei (cel mai des). Așa cum nu vreau să-mi sumarizeze filme sau cărți, vreau să le văd cu ochii mei să văd dacă sunt suficient de bune. Promisiunea e, așadar, că LLM-urile îți ușurează partea asta de muncă.
Nu toată lumea e ajutată egal la muncă de LLM-uri. Și o să vorbesc de câteva câmpuri care sunt puternic afectate, după care o să vorbesc și despre programare (pentru că asta e chestia cu care mă ocup zi de zi).
## Oamenii costă prea mult
Țintele pe care o să le amintesc mai jos erau oricum în vizorul săracilor miliardari de foarte multă vreme.
Un call-center cerea enorm în costuri salariale – aveai nevoie de zeci de mii de oameni angajați, antrenați, puși să răspundă despre cum anume trebuie folosit un produs. Chiar și la salariul minim, oamenii ăștia erau o povară pentru afacerile care vindeau servicii de asistență, suport de clienți sau vânzări. Ăsta e motivul pentru care chiar și înainte de 2022 se făceau foarte mulți bani din eliminarea lor și automatizarea locurilor lor de muncă. Avem și noi miliardarul nostru, domnul UiPath Dineș, care făcea bani fix din automatizarea proceselor de asistență sau vânzări, adică eliminarea sau măcar reducerea call-centerelor. Treaba asta era oricum pe agendă, LLM-urile doar aduc mai aproape orizontul închiderii a 90% din call-centers.
Următorul câmp afectat, pe care îl cunosc un pic mai bine, e câmpul traducerilor. Este extrem de costisitor să menții un produs cu o traducere bună, pentru că pentru fiecare limbă în care traduci ai nevoie de o echipă bună de traducere, niște oameni care să-ți dea feedback de calitate pe traducerea respectivă. Mulți oameni, și oamenii costă. Cine crede însă că traducerile erau pe făraș de ceva vreme nu știe cum e să fii un traducător și să auzi de vreo zece ani că Google Translate e mai bun și mai rapid ca tine, deși mai bun nu a fost și încă tot nu este. Isteria contra câmpului traducerilor există de ceva vreme, LLM-urile doar au accelerat isteria asta, și au făcut o mulțime de manageri să facă frumos pentru acționari și să reducă din cheltuieli fix din zona de traduceri. Realitatea a ceea ce pot să facă în materie de traduceri LLM-urile e un pic diferită de ceea ce cred oamenii că pot LLM-urile că pot să facă. Citiți la Roxana cam cum arată munca cot-la-cot cu LLM-urile în traduceri pentru mai multă informație concretă.
O să mai subliniez un aspect, despre care se vorbește destul de mult: fiecare job tăiat este *o reducere de cheltuieli* care mărește marja de profit și deci procentul pe care îl primesc investitorii. Cu alte cuvinte, când tai 100 de traducători, ai un manager care primește un bonus și niște investitori fericiți că le mai crește valoarea acțiunilor. Ah, scade de fapt calitatea? Da, dar crește viteza de producție! Putem face **mai mult produs**, mai repede, și oamenii pot cumpăra mai mult de la noi! Time to market scade, deci competitorul care chiar lucrează cu o echipă de traducere și care vine cu produsul corect localizat va întârzia cu două luni, deci eu, care am făcut acest scurt-circuit l-am eliminat pe cel care lucrează corect, și oamenii vor cumpăra produsul meu de nevoie, nu pentru că e bun.
Nu o să intru mai adânc în subiectul enshittification, dar e clar că „investitorul” este marele câștigător din toate procesele astea de eliminat oameni din ecuație, [de cacarisire a produselor](https://lazyadmin.ro/cacarisit/).
## Knowledge workers
În pregătirea acestei postări am vorbit cu niște oameni mai deștepți ca mine, care să-mi explice un pic evoluția AI-ului din ultimii ani. Da, nu mai avem acei „papagali stocastici”, și nu îi mai avem de ceva vreme. Chiar dacă în 2023 ne explicam că LLM-urile doar generează următorul cuvânt, descrierea era superficială încă din 2023, și chiar dacă tehnicile respective încă se mai văd în interacțiunile cu AI-ul, tehnicile s-au rafinat puternic. Există niște moduri în care AI-ul simulează gândirea – era normal ca companiile care vor să scoată trilioane din treaba asta să rafineze tehnicile cu care lucrează. Asta înseamnă că papagalul stocastic pare azi mult mai inteligent decât interlocutorul mediu într-o conversație normală.
Prima utilitate reală a LLM-urilor este căutarea informației în momentul în care criteriile de căutare sunt vagi. Poți acum să cauți o informație în momentul în care îți lipsește descrierea ei precisă, și îți poate formula răspunsul într-un format suficient de bogat în informație încât să poți să găsești mai ușor ce cauți. Dar chiar dacă Google a făcut un business enorm din treaba asta, utilitatea asta e marginală, pentru că astfel de căutări sunt suficient de rare cât să nu justifice cheltuiala asociată.
Promisiunea LLM-urilor e că poate înlocui un knowledge worker, și că permite accesul la produsele unor knowledge workers virtuali pentru niște neofiți/nespecialiști. În programare, treaba asta se traduce prin „X, care nu a făcut 5 ani de studiu și 20 de ani de programare, e capabil să-și producă un script în python care să-i rezolve o problemă punctuală”. Aceasta e promisiunea, și am văzut foarte mulți nespecialiști care au făcut, uneori, niște produse chiar sofisticate, care altfel ar fi costat foarte mult.
Elaborarea unui produs software e o treabă costisitoare pe care oamenii ar dori-o automatizată și făcută cu costuri reduse. Foarte mulți investitori ar fi extrem de mulțumiți să vadă costurile exorbitante cu programatorii reduse cumva. Din fericire, finalul e aproape. Amodei a promis că în 6 luni AI-ul va face mai mult de 90% din munca mea de programator. Asta e bine, îmi permite să-mi au concediu, însă ce e nasol e că a făcut [predicția asta în martie 2025](https://futurism.com/six-months-anthropic-coding), iar eu tot trebuie să dau drumul la laptop și să-mi fac treaba. Mă simt înșelat.
Dar sunt lucruri pe care AI-ul le poate face foarte bine. Astăzi e excelent la generatul de boilerplate – practic acel cod absolut plictisitor pe care trebuie să-l scrii pentru că așa e rețeta de folosire a anumitor biblioteci. Este destul de bun pentru generarea de teste automatizate – din nou o treabă unde volumul e mai important decât calitatea, deși și calitatea devine foarte importantă.
Mai există un lucru pe care AI-ul îl face bine, și acela e să ajute knowledge workers să rezolve blocajele mentale pe care le au în crearea unor produse. Am auzit treaba asta pe mai multe voci, și tind să cred că e real. Blocajele mentale sunt mai ușor de depășit pentru că AI-ul nu știe să stea să reflecteze, ci ajunge foarte repede la niște concluzii și împinge trecerea la următoarea etapă, chiar dacă vine cu idei proaste.
O să vin și cu dezavantajul: în ciuda faptului că AI-ul promitea că o să fie un mare sprijin pentru învățare, s-a dovedit prin suficiente studii că folosirea asistentului automat induce atrofierea calificărilor și calităților personale. Este o chestie cunoscută de foarte multă vreme – dacă folosești foarte multă vreme o cârjă devine foarte greu să mergi pe ambele picioare fără ea. Acesta e efectul pe care vânzătorii de AI îl caută – knowledge workers trebuie să își dezvolte dependență de asistentul automat și să înglobeze în lucrul lor de zi cu zi, pentru că companiile care îi angajează se vor face luntre și punte pentru a prelungi abonamentele la OpenAI, Google și prietenii.
## Așteptări și rezultate
O să mai vorbesc despre un singur aspect: așteptarea ca AI-ul să concedieze foarte mulți oameni. Treaba asta se întâmplă pentru niște munci intensive care lucrează online – call-centerele mi se par ținte predilecte. Dar așteptările merg mai departe, către knowledge workers, și acolo realitatea e un pic diferită. Lumea s-a uitat la toate concedierile din ultimii ani și le-a asociat cu AI-ul, realitatea e însă că trăim în mai multe crize economice în paralel, și noi încă trăim în lumea post-pandemie, unde companiile plătesc pentru excesele posibile din timpul pandemiei. În plus, dacă vă uitați pe partea de software și vedeți că de vreo câțiva ani (vreo zece) nu mai există niciun progres real în afară de aceste aplicații de chat, aveți dreptate. Dar astea sunt crize care se întâmplă separat.
Realitatea e că AI-ul nu a provocat concedieri masive în zona asta, nu încă. Și ce e iarăși ciudat e că studiu după studiu arată că AI-ul încă nu are un impact important asupra angajărilor și productivității. Mai mult, Europa, despre care băieții de dreapta ne amintesc zi de zi că e retrogradă și a pierdut cursa AI-ului, este cea care arată o creștere modestă de productivitate (4-5%), creștere inexistentă în SUA. Vezi: [Fortune](https://fortune.com/2026/02/17/ai-productivity-paradox-ceo-study-robert-solow-information-technology-age/), [Yale](https://www.theregister.com/2025/10/01/ai_isnt_taking_people_jobs/), [Europa](https://cepr.org/voxeu/columns/how-ai-affecting-productivity-and-jobs-europe). Dar nu putem să ne bazăm pe aceste studii, informațiile se schimbă oricum de la săptămână la săptămână, e un câmp foarte dinamic (și toată lumea dezinformează cât încape, în toate direcțiile).
Majoritatea producției de software este ceea ce se numește *shovelware*. Există acel proverb că în goana după aur producătorii de lopeți sunt cei mai câștigați, și aceasta pare să fie de fapt direcția în care se duc cam toate soluțiile care folosesc AI. Dincolo de accelerarea eliminării câtorva profile de joburi, se investește foarte multă energie (la propriu) în crearea de unelte, unelte pe care fie nu le vrea nimeni, fie nu și le mai permite nimeni. Că lucrurile merg într-o direcție nesustenabilă e clar. Că urmează o criză economică teribilă e la fel de clar.
Rezultatele sunt spectaculoase pentru neofiți dar nu duc niciodată către produse bine șlefuite, atent făcute, produse complete și corecte.
Ah, încă un lucru: LLM-urile încă nu au efecte concrete în viața reală. Nu o să se apuce să îți pună asfalt drept la tine în cartier, nu o să-ți colecteze gunoiul prea curând, nu o să îți înlocuiască nici livratorii nici gunoierii, nici vânzătorii (nu mai mult decât o facem acum cu mijloace non-LLMistice). Da, dacă există un sistem conectat la internet în cele din urmă LLM-urile vor fi capabile să le controleze, dar încă nu se pricep foarte bine la lucrurile astea. Și sunt incapabile de precizie 100% – tocmai din cauza bazelor adversariale pe care sunt construite. Întotdeauna vei avea rezultate îndoielnice, sau incorecte, cel puțin cu ce se face acum. În viitor… În viitor nu o să mai am job, deci nu o să-mi pese.
## Pe scurt
Mai sunt multe de zis, dar v-am promis ceva pe scurt. Așa că o să vorbim despre aspectele pozitive:
- LLM-urile sunt capabile de căutări pe criterii vagi care dau rezultate surprinzător de bune.
- Înlocuiesc foarte multă muncă manuală.
- Pot fi generați asistenți capabili de răspunsuri complexe.
- Deocamdată pot fi de ajutor pentru knowledge workers, dar încă nu îi înlocuiesc.
- Pot înlocui începători în meseriile care necesită multe cunoștințe (precum programarea).
- Pot ajuta micii producători pentru a elimina costuri pe care altfel nu și le-ar permite (prin generare foarte ieftină de imagini, de text, etc.).
Aspectele negative:
- Costuri încă mari pe care nu le vedem (pentru că companiile astea sunt construite pe modelele de funcționare în pierdere pe care au fost construite imperii gen Uber). În cele din urmă vom ajunge să le plătim pe de-a-ntregul dacă devenim dependenți de uneltele pe care le produc.
- Elimină palierele de jos ale meseriilor care necesită cunoștințe, ceea ce înseamnă că va fi foarte greu pentru cineva să ajungă să cunoască **cum** se fac diverse lucruri în meseriile intelectuale. Criza asta o să ne lovească în vreo 5-10 ani, când seniorii de acum o să se retragă și o să se pensioneze.
- Fac o concurență neloială producătorilor de produse artistice. Nu doar că le fură toate produsele în scopuri de antrenament și le folosește fără licență pentru a genera conținut similar, dar asta avantajează spammerii în pofida artiștilor care încă trebuie să muncească zile, săptămâni, luni pentru a crea ceva.
Mă opresc aici. E un text de început, și sper că v-am transmis o imagine destul de clară. În orice caz, o să scriu mai pe larg pe blogul meu, pe dorinlazar.ro, pentru că subiectul e enorm, și prezintă tot atât de multe aspecte cât gluma aia din Filantropica.
In call center mai stiu si eu detalii. Si un voicebot relativ decent dar care face doar o parte mica din ce ar face un agent uman costa in jur de 4-5 euro / ora. Deci 40 pe zi, deci 840 pe 21 zile (man-days). E cam la paritate cu omul care, cum spuneam, e mult mai potent (daca nu e retardat).
Insa, exista vulnerabilitate pe partea de chatbot, vezi exemplu emag. Acolo tine si de cat de mare e durerea-n qr fata de clienti.
La faza cu traducerile ai (nu AI) pus efectiv degetul pe rană... hai să băgăm mare să traducem „Clipă de îndoială” în loc de „Moment de torsiune” și să livrăm la marea viteză niște manuale de utilizare sau niște interfețe UI de vai viața lor... problema e următoarea: cât își vor mai permite să-și bată joc de umilul utilizator final, marele și unicul lor sponsor?
P.S. Lucrez în branșă de 30+ de ani, am trecut de la rigla pe hârtie și Word 2.0 la Trados Studio, de la cărți la user manuals și le-am cam văzut pe toate...
Remember "pasune magnetica" in loc de camp magnetic?
O să continue să-și bată joc de utilizatori suficient cât să omoare concurența, ăsta e calculul. Nu cred că o să le iasă, și cred că o să existe o rezistență la fenomenul curent, dar deocamdată toți suntem cam rupți în fund și așteptăm cu nerăbdare să dea și ăia mari faliment.
Foarte mult. Deja se intampla de multa vreme asta si oamenii devin tot mai toleranti la slop in favoarea costurilor reduse. Bataia de joc va fi tot mai mare si va fi ok pentru ca nu ne permitem altceva.
Ideea cu traducerile facute de LLM e ca mai tine cont si de context (cand poti folosi pasune si cand nu). Daca traduci fiecare termen separat atunci da rateuri din astea.
@Sans Hosen
Teoretic ține cont, practic se mai încurcă. Dacă ai un joc cu personaje și menționezi ceva de taste, o mai dă în bară. Sau dacă ai omonimie într-un fișier. Chiar azi am dat de minunăția de „Ascunde această tastă tab” (pentru „Hide this tab”, evident) într-o traducere de setări de UI.
Ajutooor! Semnati va rog o petitie ca cei de la ING sa o concedieze pe roboata Maria.. este o dobitoaca sinistra care reprezinta mai mult o metoda de testare a limitei furiei unui om decat o solutie pentru orice.. Semnat : un om care din varii motive trebuie sa o suporte pe idioata o data pe saptamana
Pentru tine e ciuma, dar pentru multi IQ < 100 este muma. Si ii scapa (cred) pe operatorii umani de o gramada de idioti sa le fwta nervii.
Si? Te-ai mutat de la ING pt ca Maria e idioata si nu mai poti sa vorbesti cu Raluca de la callcenter care lua salariu minim da voia concediu in sesiune? Ah, nu .. ok
Am auzit un zvon, inca netestat, ca daca taci ca un peste 2-3 minute, roboata de la ING cedeaza si te transfera catre un uman. Dar altfel ai dreptate, interactiunea cu roboata aia e ceva sinistru.
LLM-urile reprezintă doar un subset al inteligenței artificiale. Lumea se concentrează prea mult pe LLM-uri.
AI-uri (care nu sunt LLM-uri) sunt deja folosit pentru controlul calității in fabrici (găsit crăpături în piese, dar și probleme de software), imagistică medicală (lucrează în tandem cu doctorii la examinarea unor radiografii), dezvoltare de medicamente noi (e mult mai capabil decât oamenii să itereze prin diverse soluții), domeniul energetic (stabilizează rețeau prezicând consum în funcție de date care se schimbă).
Câmpurile alea continuă în pasul lor. Am scris încă din introducere că nu o să intru în pedanterii de genul, și nu am făcut-o. Ieșea un articol prea mare. Pentru pedanterii de genul o să pun câteva articole mult mai lungi la mine pe blog, când chiar o să am timp să le scriu.
Omul tocmai a explicat in articol ca se va referi generic prin "LLM" la orice latura a AI-ului. Orice model de computer vision utilizat detectarea de zgarieturi tot parametri, date si proportii contine, ca un LLM.
@Dorin @Rumbu Nu sunt expert în domeniu, doar încerc să învăț și să folosesc AI.
În esență, eu ce am înțeles e că să spui LLM în loc de AI e ca și cum ai spune mașină în loc de vehicul. Toate se deplasează, dar sunt diferențe majore între Sandero și tramvai.
Modele pentru reperat defecte folosesc alte moduri de a învață/lucra fată de LLM-uri, în robotică din ce știu se aplică reinforcement learning (modelul greșește și învață).
Dacă greșesc și n-am înțeles bine ce am citit îmi cer scuze.
Nu inteleg de ce ai luat asa multe voturi-jos (no AI was used to write/ translate this :D).
Sunt exemple f bune unde AI-ul (termenul generic) face treaba buna.
Poate pt ca omul de rand a luat contact cu AI pt prima data prin intermediul GPT (LLMs) si considera ca ala e tipul de AI care e folosit peste tot?
@Alex
A luat atât de multe mânuțe roșii pentru că scrie foarte clar la începutul articolului că va folosi „AI” ca să vorbească de LLM-uri și că nu va vorbi de cei care folosesc AI-uri care nu sunt LLM-uri.
E echivalent cu „Știu că sunt români în diaspora, dar o să mă refer aici la românii din România și o să le zic „români” general, chiar dacă știu că există și alți români”, iar unul dintre primele comentarii e „Dar știai că există români în diaspora și nu sunt toți în România?”
Eu astept sa-i vad gasind ceva simplu un medicament contra mahmurelii. Dar asta ar induce un hazard moral bei ca porcu stiind ca iei o pastila si gata deci poate mai multe boli de ficat stomac si cancere deci cheltuieli ale statului. Dar AI poate inventa si pastila contra cancerului deci iar mananci bei ca porcu si te destrabalezi ca oricum te repara o pastila/vaccin. Dar AI poate gasi cum sa traiesti 150 ani deci ar trebui sa muncesti pana la 100? 120? Dar daca sunt multi roboti si firmele nu au angajati cine le cumpara produsele?
Eu cred ca cine a avut call center de automatizat l-a automatizat acum ani de zile. Oricum de multe ori trebuie sa stai la rand la aia 10-20% ce au mai ramas sa-ti rezolve problema.
Restrangerea IT:
In IT e nasol dar nu din cauza AI-ului. Principala cauza e ca s-a ajuns la o anumita saturatie. ERP-urile sunt gata, car functions sunt gata, aplicatiile bancare, logistica, jocuri chiar... nu prea mai ai ce dezvolta serios. Ca sa le intretii nu mai ai nevoie de echipe la fel de mari ca si dezvoltarea lor. Se va da afara mai ales cei neesentiali.
AI:
Se spera ca AI-ul va produce noi dezvoltari, dar ca si in cazul IOT "internet of things" nu da pe spate pe nimeni deocamdata. Cati ati fost incantati ca dati drumul la masina de spalat sau sa pornesti cafeaua din telefon ? Mie mila de tona de firme ce baga la AI, 90% din proiecte mor din fasa. E o piata pt jucatorii mari cum a fost si cand s-au facut browserele si motoarele de cautare. Restul nu prea vad rostul. Mici aplicatii o sa fie de genul ca o sa te ajute sa cauti prin tickete vechi sau o sa-ti sugereze posibile solutii dar nu o sa rupa gura tagului(vorbim de proiecte de AI mici).
Va zic eu o solutie dureroasa de iesire din criza actuala: sa incepem sa ne reinternalizam productia din China, India si Pakistan. O chestie de durata dar necesara, cred eu.
In IT toate erau gata de cel putin 10 ani, daca nu mai bine. Tot ce se "inoveaza" in IT, sunt bule ca sa mai manance si gura lor ceva.
", dar ca si in cazul IOT "internet of things" nu da pe spate pe nimeni deocamdata."
Mi-ai adus aminte de discursul rectorului la terminarea facultatii in urma cu 10 ani.
Vorbea despre cum se baga in priza va fi integrat in IoT. Am un singur prieten care si-a luat masina de spalat rufe si inca ceva pe care le-a legat la wifi :D.
Mi s-a parut un discurs gandit pt parintii prezenti, sa ii faca mandri de facultatea pe care au terminat-o progeniturile.
Lu' Abramburica trebuia sa-i zica cineva: Inspira/Expira ca sa nu moara de proasta ce era.
Din "papagali stocastici" n-o sa-i scoti pe itistii din comentarii, pentru ca deja suntem la faza de identitate, oamenii au zis acum 3 ani ca LLMurile nu sunt bune de nimic si o tin pe a lor, in continuare. "Sunt programator de 20 de ani, nu-mi spui tu mie ca stiu eu mai bine. AIu niciodata n-o sa...".
Apreciez textul, dar exista raspunsuri mult mai simple si directe la "ce probleme rezolva de fapt AIu".
Asta duce la viteza de executie pe foarte multe domenii, unde oameni "normali" din domeniu pot folosi sculele astea pentru teste. In farma, bagi un medgemini sa-ti ia toate posibilitatile de compusi, sa-ti scoata in fata top 100, testezi top 20 in laborator, si cu datele alea ai x% precizie in pipeline. Fara experti in ML, asta e cel mai important.
La fel si cu alphafold. Ca nu degeaba au luat aia premiu nobel. Nu e "super ai care face tot singur", dar e super folositor pentru oamenii din domeniu.
Astea se vor traduce in viata reala prin medicamente, vaccinuri si alte tipuri de tratamente mai rapide, mai bune, mai ieftine, etc.
A deschis calea catre "repetarea" solutiilor bune in alte domenii. Baietii care au luat premiu nobel pentru protein folding acum lucreaza la plasma confinment pentru reactoare nuclearea pe fusion. Inca la inceput, dar lucreaza cu echipe reale si fac tot felul de simulari unde la fel antreneaza un model generic care ulterior poate lucra pe datele clientului.
A "democratizat" accesul la "programare" pentru oricine poate tasta niste cuvinte si poate testa o solutie. De ~30 de ani industria noastra a promis "cod automat", si "oricine poate sa codeze", prin diferite concepte. De la delphi, c#, o gloata de UML si programare prin desene, platforme low-code, platforme no-code, ittt, etc. toate au promis asta, si niciuna n-a livrat. Well, acum claudiu cam livreaza asta. Si sigur, nu e perfect, nu e "production ready", dar nu asta e ideea. Ghita de la contabilitate poate sa-si faca singur un mini app doar tastand intr-un terminal de claudiu. Si daca are experienta in domeniu si stie sa se exprime, o sa primeasca o mini aplicatie pentru fix ce-i trebuie lui.
Si, iar, nu se aplica doar lui ghita de la conta. Se aplica oricui are o nevoie particulara, cu un task nu neaparat foarte complex, dar care inainte necesita "niste oameni" care sa poata traduce ce vrea ghita in ce vrea calculatorul lui ghita sa execute. Acum ghita se poate exprima, si fiind din domeniu poate testa rapid ce-i produce claudiu.
Asta se traduce in multe aplicatii mici cu "un singur client". Si se mai traduce in probleme pentru SaaS, cand pentru orice nimic se cerea licenta lunara. Si aia o sa scartaie putin, pe 2 directii - saasuri cu solutii simple -> avem solutii simple acasa. Si saasuri cu solutii megacomplexe -> avem echipa mica si agila de 5-10 oameni care ne pot aduca acasa solutia asta, cu strictul necesar noua, fara sute de mii de euro pe an in licente.
Dar trebuie putina vointa sa ramai la curent cu ce se intampla, sa nu o iei personal, sa nu-ti faci "identitate" din ideea ca nu sunt utile, ca gresesc sau ca sunt papagali stocastici. Aici e marea buba. Ca unii au luat-o haiț de acum 3 ani, si acum o tot tin pe a lor, in ciuda tuturor exemplelor. Nu-i mai scoti din ale lor. Am mai zis, daca pana si gigelul ala care lucreaza la un kernel de ceva timp considera ca sunt utile, si a gasit o utilitate pentru el sa programeze in vibeuri, pot si programatorii nostri. Nu le pica plocoanele. Dar trebuie sa vrea.
Toate astea sunt misto pana vine baiatu' de la security si iti cere dovezi si screenshoturi ca ai respectat tot pomelnicu' de proceduri si politici pe SDLC.
Nu zic ca n-ar trebui si Security sa se adapteze la noua paradigma cu AI, dar deocamdata orice proiect de vibecoding a esuat lamentabil specific pe partea de security. Plus ca in cazurile camd faci dev serios, ai contracte prin care aderi strict la controale ISO sau SOC. Practic le incalci in momentul in care ai deschis fereastra de Copilot/Cursor sau ce iti place tie.
Partial corect. Daca nu ceri, nu ti se da. Solutiile primite sunt "generaliste", si alea generaliste mereu au scartait la securitate. Nimic nou sub soare, doar la scara mult mai mare. Si, fiind foarte multa atentie pe subiect, sunt scoase in fata exemplele "fail". Dar asta se intampla si inainte, cu programatori grass fed, bio, certified cu puls. Sau uitam de toate retelele sociale, toate leakurile, toate platformele sparte, crowdstrike, si alte failuri istorice?
Partea buna e ca "securitatea" e o problema testabila. Si agentii in bucla + ceva verificabil = improvement constant. Vezi blogul anthropic cu 200+ CVEuri gasite autonom. Asa cum primul pas e "implementeaza asta pana se compileaza" dupa care "implementeaza asta pana trec toate testele" va veni si "testeaza solutia asta pana nu mai gasesti vulnerabilitati". Project 0 de la goog pe steroizi si multe milioane de tokensi.
Pai chiar gresesc des si chiar sunt papagali stocastici. Dar 1 dev experimentat + o armata de papagali stocastici poate face munca mai multor devs fara armata de papagali.
Problema care a ramas in schema este validarea codului. In dezvoltarea software, nu documentatia este sursa de adevar, ci codul in sine. Ori LLM-urile actuale inca mai genereaza cod doar in mare parte corect.
OK, pui un alt agent sa faca review la cod dupa aceeasi lista de specificatii. Dar si aici apar limite, iar omul ramane eventual doar in postura de-a accepta sau refuza calupul de munca efectuat de AI. Pentru simplu fapt ca majoritatea oamenilor nu au cum sa procesezi date cu viteza unui calculator. Iar putinii care pot face fata generatiei actuale de AI, nu vor putea face fata peste 5-10 ani.
O analogie putin tampita dar in urma aparitiei masinilor, nu au evoluat cai sau oameni capabili sa depaseasca viteza lor. Chiar daca prin antrenamente, tehnologie si medicina se tot depasesc recorduri sportive, tot preferi sa cumperi o masina pentru curierat, nu sa angajezi o armata de clone ale lui Usain Bolt sa livreze pachete la picior.
A "democratizat" accesul la anumite ramuri care erau in trecut doar pentru cercetare.
D-aia e plin la noi de cercetatori doar cu liceu si fara BAC.
Ca sa poti folosi AI-ul in cercetare trebuie sa stii FOARTE FOARTE BINE domeniul. Suficient de bine cat sa-ti dai seama daca merita sapat sau nu in directia in care zice AI-ul ca e aur.
"A "democratizat" accesul la "programare" pentru oricine poate tasta niste cuvinte si poate testa o solutie
Sa vezi cand o sa vina ANAF-ul si Marcel o sa zica ca AI-ul i-a facut un app pentru contabilitate ... pe normele din 2016. Crezi ca o sa stea tanti Maricica (presupunand ca stie sa-si faca un app) sa stea sa testeze ca ala aplica toate cornercase-urile pe care nici ANAF-ul nu le stie?
Toti programatorii care scriu cod repetitiv, boiler-plate, or sa aiba mari probleme. La fel si apelatorii de functii de biblioteca. Aia care fac arhitecturi, care lucreaza pe nise inchise, testerii care stiu meserie, n-or sa aiba probleme pe viitorii 5ani.
"Pentru programatorii de succes, care au o experienta de 10+ ani in multe domenii, care se pot exprima coerent pe un subiect, care mai stiu putina planificare, chestiile astea sunt mega tooluri."
Daca ai programat vreodata, stii ca scrisul de cod e maxim 20%, restul e debug, documentatie, review, etc. Problema nu e ca a dat eroare. Problema e ca face X cand ar trb sa faca Y. Sau mai rau in 1caz la 1 milion face ce nu te astepti. Eu prefer sa-mi tai un coi decat sa afc debug la cod pe care nu l-am scris eu. Hai ca ai 1 fisier, mai merge, dar cand ai 50-100 de fisiere si tu habar n-ai cum a gandit ala arhitectura, mult noroc la debug.
Nu mai zic de review, dupa 3h de code review ai creierii muci. Si e una cand fac 2 review simultan, alta e cand faci singur.
Indraznesc sa sintetizez un pic AI-ul. Cu cat spatiul de solutii permise e mai mare, cu atat AI-ul e mai bun. Cu cat incerci mai mult sa bagi ata in ac, cu atat pui mana si faci mai repede singur.
In 20-30 de ani o sa avem un etsy pentru app-uri scrise de mana.
Eu nu m-as baza pe LLM pentru testare.
Hai ca dau exemplu classic:
isPrime(int i) => trueIn 95% din cazuri functia asta spune adevarul, deci statistic e oarecum corecta. Dupa aia ii zici lui sa faca niste teste, iar LLM-ul sufera de testing bias (ca asa a fost antrenat, devsii dupa codul carora a invatat nu se obosesc sa faca negative testing) si va testa o serie de numere prime si va declara cu seninatate ca functia de mai sus este corecta.
Problema pleaca de la sursa, avem pretentia ca o chestie antrenata cu probabilitati sa dea raspunsuri exacte.
De-aia AI exceleaza la generarea de text/imagine/video/sunet fiindca acolo acceptam cu o oarecare toleranta rezultatul final.
Ganditi-va doar ca concepte deja foarte vechi de programare nu au fost inca acceptate in diverse domenii din aceleasi motive si anume inexactitatea si impredictibilitatea. Stiu ca este un exemplu extrem, dar NASA inca foloseste intregi in loc de numere in virgula mobila, iar recursivitatea nu e bine vazuta in cod.
da boss...merge sa faci asa cand ai repositourile din care copiaza aiul scrise de oameni. Iese cod mediu ca calitate. sa bagam si o cacofonie sa mai radem.
Ce facem cand, modelele se imbunatatesc, rup norma de imbunatatite ce-s, si toate repositoriurile or sa fie scrise de AI. Care zici ca o sa fie ca calitatea?
Am scris mai jos de RLVR.
care, pe modelul actual, nu zic ca nu se va imbunatati, o sa ajunga tot acolo. dar mai incet.
e ca si cand ai zice ca ai imbunatatit xeroxul
Corporațiile de azi fac cu piața muncii intelectuale exact ce au făcut cu planeta: își consumă irațional resursele viitoare pentru a umfla profitul pe trimestrul curent.
Faptul că un LLM rezolvă munca de jos înseamnă că tocmai am tăiat singura scară de evoluție pentru viitorii experți. Nimeni nu se naște senior. Senioritatea e cicatricea lăsată de mii de ore de debugging frustrant, de traduceri ratate și de cod scris prost, dar corectat. Ne canibalizăm propria industrie. În 10 ani, când seniorii actuali vor face un pas în spate, corporațiile se vor trezi cu o armată de prompteri care știu să comande cod, dar care vor privi ca vițeii la poarta nouă când o arhitectură complexă se va prăbuși în producție, pentru că nu și-au julit niciodată mintea în tranșeele execuției de bază. Nu e boom de inteligență artificială, ci o aplatizare artificială a calității, vândută la preț premium de niște acționari foarte fericiți.
Nu automatizăm munca ca să fim liberi.... pur și simplu predăm cheile producției intelectuale unui oligopol privat.
Practic, AI-ul nu ne ia joburile acum, ci ne amanetează competența pe termen lung.
Cred că argumente similare s-au adus pentru tiparniță sau motorul cu aburi.
Comentariu scris cu AI, dar macar a fost editat manual.
Pai in 10 ani mai evolueaza si AI-ul
"Cred că argumente similare s-au adus pentru tiparniță sau motorul cu aburi."
apelul la "probabil s-a intamplat ceva in trecut de genu asta". Atat ca motorul cu aburi nu te facea mai prost ci mai lenes. Iar tiparnita producea mai repede inteligenta. Ce se intampla si acum, doar ca invers. fute inteligenta
La ce ai pus tu la aspecte negative, e ca si cum ai spune ca tiktokul dauneaza pentru ca strica ochii copiilor. Sunt cel putin vreo 3 armate care folosesc acu activ ai ca sa omoare oameni, si noi lsitam la aspecte negative ca niste parliti autisti nu o sa mai aiba "seniori" peste 10 ani.
"[...]în ciuda faptului că AI-ul promitea că o să fie un mare sprijin pentru învățare, s-a dovedit prin suficiente studii că folosirea asistentului automat induce atrofierea calificărilor și calităților personale."
Poate greșesc eu și nu văd tabloul complet, dar mie unuia, chestia asta mi se pare un pericol real pe termen lung. Primul meu gând s-a dus către scenariul din "Idiocracy".
Faza cu call centerele si AI-ul e in pom. De cate ori am avut o problema cu vreo companie nu s-a rezolva niciodata cu AI-ul, ba mai mult a incurcat. A trebuit sa ma duc personal sau sa vorbesc cu un OM, care mai nou, e pe bani(ORANGE). Mi-au ratacit colete si ma minteau in fiecare zi ca a doua zi se livreaza, mi-au activat niste extraoptiuni doar pe unele abonamente si nu pe toate si nu putea activa si pe celalalte ca nu am primit simurile - simurile erau la curier care tot un AI raspundea. Am facut retur la niste blugi in noiembrie si inca nu am primit banii pentru ca AI. Am facut retur la o boxa portabila si cand au primito inapoi a intrebat AI-ul daca are cablu de incarcare si au zis ca nu si nu mi-am primit toti banii cu toate ca boxa nu avea din fabrica cablu.
Sunt si avantaje categoric. Era vorba aia : Google te ajuta dar nu te face mai destept. Acum AI te ajuta dar nu te face mai destept, mai ales daca nu este un OM sa il manuiasca. Macar isi cere scuze cand greseste
Două lucruri aș dori să întreb:
Modelele nu mai sunt antrenate doar pe date umane "la gramada" de vreo ~2.5 ani in cercetare si de vreo 2 ani in practica. Progresul actual se datoreaza diferitelor metode de RLVR cu mici adaugari de date foarte precise, generate partial de experti sau doar verificate de ei.
Acum toti se concentreaza pe "medii virtuale" unde agentii dau cu capul de pereti pana "rezolva" taskul, si apoi "invata" din procesul asta, si generalizeaza pentru alte procese. Asta e VR de mai sus (verified rewards).
Există sute de mii de oameni în india și philipine care produc date structurate pentru firmele mari de AI. Aici se duc unele din 'costurile pentru model training'.
De la chestii banale, la chestii complexe, de la oameni simpli care etichetează chestii banale de genul 'ferrari f50 roșu' într-o poză random, până la oameni cu doctorat care etichetează și explică molecule complexe, cu toate informațiile pentru a putea fi apoi înțelese cât mai ușor de modele.
Astea probabil o să se simtă în 1-2 ani.
Merci! Eu am înțeles ce zici (deși nu am cunoștințe în domeniu).
Plus, felicitări pentru exprimarea corectă! Chiar a fost o plăcere să citesc.
Nu sunt sigur despre ce vorbim.
Bursa din New York a dat afara toti brokerii, miile de oameni care strigau si dadeau din maini acolo nu mai exista.
Astea cunoscute de toti, ChatGPT, GROK, Gemini, chestiile cu informatii generale pt cetateanul de rand, sunt aceiasi AI de Enterprise cu care firmele mari dau afara 10.000 de angajati?
Stie cineva de aici ce folosesc firmele mari?
HFT de destul de mult timp
Fac o poză la sufrageria goală, îi zic lui AI să mi-o mobileze. Pac, face el treaba in locul dizainerului.. ba mai mult mă și întreabă ce magazine de mobilă și ce prețuri vreau/pot IKEA etc.. pt mine e bine. Pt tanti care se ocupa cu asa ceva nu știu cât de bine e...
acum s-or mai fi imbunatatit. dar.
"bah chatgpt, uite cum arata baia mea. o sa o trec in microciment. Ii pun mobila asta. microcimentu o sa fie asa si pe jos putin mai inchis la culoare. fa poza sa vad cum arata"
prima poza: aproape bine. Nu nimereste la fix mobila, si face microcimentul tot de aceeasi culoare
"perfect, fa pe jos putin mai inchis"
face pe jos inchis de tot. Muta veceul
"lasa prima poza, fa doar pe jos mai inchis"
inchide tot. Schimba mobila. Muta iar veceul
Dumnezeu îți dă dar nu-ți bagă în traistă:))
Macar nu te-ntreaba "aoleo da cine v-a lucrat aicea?"
S.U.P.R.A.V.E.G.H.E.R.E
Sacurga manutzele rosii, ahh ce ma excita.
Sisteme
Unificate pt
Procesare
Raționament și
Automatizare
Virtual
Evolutive
Ghidate de
Hyper
Ecosisteme
Reale
Extinse
Zic si eu
PS: multumesc de info
Uite un lucru la care este buna inteligenta artificiala: Are abilitatea de a transforma un text lung si plictisitor in ceva mai scurt si mai concis.
asta făceam eu aici de 21 de ani.
Hmm, înseamnă ca proverbul era greșit De scrută să fie cât de lungă, de groasă să nu fie prea subțire:))
if you can't beat it - embrace it.
Mișto textul. L-am citit cu plăcere.
This just in: where my Windows bros at?
Și mai la subiect: o tipă care lucra în data analisys ne spune cum e cu AI-ul.
Nu prea mai văd vreun motiv bun să utilizez Windows de anul trecut, I'm good.
Concedieri o să fie. Sunt și aventurieri care pariază totul pe AI. Mulți sunt în C-suite, iau decizii, împing ideea asta în interes financiar personal. În timp o să se vadă rezultatele. Trebuie doar un pic de răbdare. Între timp, rata șomajului rămâne destul de stabilă, semn că unde ai niște oameni concediați apar niște oameni care angajează. Poate ăia care fac studiile alea știu ei ce fac.
Am pus si mai jos, intr-un comentariu separat, dar cred ca e destul de misto sa o pun si ca reply aici: https://ibb.co/hRtw6Yrd
Chestia asta nu va lua jobul nimanui. Da, vor fi imbecili in pozitii de decizie care vor crede ca pot inlocui oameni cu AI (si au fost, am mai zis, Klarna, IBM, Duolingo), dar lucrurile nu stau ca-n prezentarile lui Altman.
Două chestii:
La toate acestea aș mai adăuga și efectele de alienare socială pe care le trăiesc cei care întrețin iluzia relaționării cu AI; sunt câteva procese deschise împotriva OpenAI în urma unor cazuri de suicid.
Unii oameni și-așa nesiguri pe ei vor ajunge să își medieze toate conversațiile prin AI, încercând să anticipeze/prevină sentimentele de respingere, lucru care doar le va întreține anxietatea. Este ceva halucinant, dar deja se întâmplă.
Pentru apostolii AI-ului si aia care se termina-n pantaloni ca vai, AI-ul va lua joburile ITstilor:
M-a rugat un amic sa-l ajut sa faca o scrisoare de intentie. Pentru ca nu e o chestie la care sa ma pricep foarte bine, pun AI-ul sa faca treaba asta, ca la asa ceva ar trebui sa se priceapa. I-am zis asta e CV-ul omului, fa o scrisoare de intentie. Vedeti in poza de mai jos ce a inteles AI-ul din CV-ul ala.
https://ibb.co/hRtw6Yrd
Cumva, cica chestia asta o sa-mi ia mie jobul.