RSS

AI agenti na programovanie vynášajú heslá a firemné dáta. Problémy majú Claude Code aj Grok Build

Bezpečnostné firmy našli na GitHube desaťtisíce hesiel zo súborov Claude Code a verejne dostupné interné dáta z aplikácií postavených v Grok Build. Ukazuje to nové riziká pohodlného programovania s AI.

Programovať s pomocou AI agentov je rýchle a pohodlné, no dve bezpečnostné zistenia z prvej polovice novembra ukazujú, že tieto nástroje vedia nechtiac zverejniť heslá aj citlivé firemné údaje. Týka sa to aj ľudí, ktorí si s AI len „naklikali“ jednoduchú aplikáciu.

Claude Code: heslá v súbore s nastaveniami

Keď používateľ nástroju Claude Code od Anthropicu povolí príkaz voľbou „Áno a už sa nepýtaj“, nástroj si ho uloží do súboru s lokálnymi nastaveniami projektu — celý, aj s heslom alebo prístupovým kľúčom, ak ho príkaz obsahoval. Súbor má zostať len na počítači vývojára, ochrana pred jeho nahratím na GitHub však nefunguje vo všetkých situáciách, napríklad po prenesení projektu na iný počítač.

Problém nezávisle opísali dve bezpečnostné firmy. Apiiro našla vyše 100-tisíc kópií súboru vo verejných repozitároch a v približne 1 100 z nich skutočné heslá či kľúče. GitGuardian, ktorý prezrel aj staršie verzie súborov od januára 2025, napočítal vyše 31-tisíc rôznych tajomstiev, z ktorých bolo v čase odhalenia stále platných vyše 5-tisíc. Najčastejšie išlo o prístupy k databázam, kľúče ku cloudovým službám a k AI službám.

Grok Build: „tajné“ odkazy, ktoré sa dali nájsť

Firma Claroc preverila Grok Build, nástroj na tvorbu aplikácií z konverzácie od firmy SpaceXSI (spojené SpaceX a xAI Elona Muska). Aplikácie sa zdieľajú cez adresy z náhodných slov, ktoré sa však dali dohľadať vo verejných záznamoch DNS. Z vyše 37-tisíc aktívnych aplikácií sa podľa Clarocu 35 578 otvorilo bez prihlásenia. Medzi nimi boli interné obchodné plány, výsledky lekárskych vyšetrení či zoznamy zamestnancov — vrátane 24 aplikácií samotnej SpaceXSI, ktoré firma po upozornení stiahla.

Čo si z toho vziať

  • Heslá a kľúče nepíšte priamo do príkazov ani do kódu; používajte premenné prostredia alebo správcu hesiel.
  • Súbory s nastaveniami AI nástrojov (napríklad priečinok .claude/) pridajte do .gitignore projektu a pred zverejnením repozitára ho skontrolujte nástrojom na hľadanie tajomstiev — GitHub ho má zabudovaný.
  • Ak sa heslo už raz dostalo von, nestačí ho zmazať zo súboru — treba ho zmeniť.
  • „Tajný“ odkaz nie je zabezpečenie. Aplikácie s osobnými či firemnými údajmi patria za prihlásenie.

Prečo je to dôležité aj u nás

S AI agentmi dnes programujú aj ľudia bez skúseností s bezpečnosťou a chyby, ktoré by skúsený vývojár zachytil, sa šíria vo veľkom. Pre firmy, školy či úrady v EÚ to nie je len technický problém: ak cez takú aplikáciu uniknú osobné údaje, ide o porušenie ochrany údajov podľa GDPR, ktoré treba spravidla do 72 hodín ohlásiť dozornému orgánu — na Slovensku Úradu na ochranu osobných údajov.

Poznámka redakcie: Claude Code vyvíja Anthropic, firma, ktorej model Claude používame pri príprave textov Denníka AI. Článok sme 17. 11. doplnili o výskum GitGuardianu a zistenia Clarocu z pôvodných zdrojov.

Zdroje

Tento článok bol pripravený s pomocou umelej inteligencie a pred zverejnením ho skontrolovala redakcia.