Apple začal omezovat počet bezpečnostních chyb, které mohou jednotliví výzkumníci současně nahlásit v rámci jeho Bug Bounty programu. Důvodem má být prudký nárůst nekvalitních hlášení vytvořených s pomocí umělé inteligence, včetně případů, kdy popsaná zranitelnost ve skutečnosti vůbec neexistuje.
Informaci přinesl Financial Times. Apple podle něj zaznamenal obrovský příliv hlášení od amatérských lovců bezpečnostních chyb, kteří využívají AI k hledání potenciálních zranitelností. Problém spočívá v množství. Moderní AI nástroje dokážou během krátké doby analyzovat velké množství kódu a navrhnout desítky potenciálních bezpečnostních problémů. Část těchto nálezů je ale chybná. AI může například mylně vyhodnotit určité chování systému jako bezpečnostní zranitelnost, která ve skutečnosti neumožňuje žádný útok. Bezpečnostní tým Applu pak musí podobná hlášení ručně prověřovat. Velké množství falešných nebo nekvalitních reportů může současně způsobit, že skutečně kritická chyba zapadne mezi ostatními. Dopad tohoto problému ilustruje případ kyberbezpečnostního startupu Bynario. Jeho tým použil ChatGPT k hledání zranitelností v macOS a během pouhých tří týdnů identifikoval více než 50 potenciálních bezpečnostních chyb.
Mezi nimi se měla nacházet také zranitelnost umožňující eskalaci oprávnění. Útočník by díky ní mohl získat prakticky neomezený přístup k Macu. Bynario však tento konkrétní nález nemohl Applu okamžitě nahlásit, protože narazil na nový limit počtu současně otevřených hlášení. Zakladatel Bynario situaci označil za „velmi obtížnou dobu v oboru“, protože bezpečnostní firmy jsou podle něj zaplaveny obrovským množstvím potenciálních chyb. Apple je nyní s Bynario v kontaktu a jeho předchozí hlášení prověřuje. Apple podle dostupných informací zavedl limit na počet současně otevřených hlášení jednoho výzkumníka. Bezpečnostní experti ale mohou požádat o jeho navýšení. Situace je přitom poněkud paradoxní. Stejná technologie, která Apple zahlcuje falešnými hlášeními, mu zároveň pomáhá odhalovat skutečné bezpečnostní problémy. Apple už podle dostupných informací využívá AI pro zpracování a analýzu bezpečnostních reportů.
