Sårbarheder dukker op hos DeepSeek

DeepSeek oplever registreringsproblemer efter et cyberangreb, samtidig med at researchere opdager sårbarheder i deres R1-model. Sådan hedder det i en artikel i Security Week, mens hypen omkring den nye AI-platform stadig er ved at finde sin form efter at verden blev bekendt med DeepSeek, ikke mindst fordi der blev oplevet massive aktiefald hos bl.a chipproducenten Nvidia mandag i denne uge.

Man er angiveligt bange for, at DeepSeeks model kan udkonkurrere de andre AI-ledende aktører, bl.a. fordi DeepSeek er udviklet for en brøkdel af fx ChatGPT og bruger langt mindre energi til sin drift. Det har medført aktiefaldet og så får man opmærksomhed. Også fra trusselsaktører, der også vil kapitalisere på hypen og måske bl.a. DDoS’e løsningen i knæ. 

Sårbarheder i R1-modellen afsløret

Om det er lykkedes, vides ikke, men der har i al fald været DDoS-angreb mod platformen, og det nye er, at researchere fra threat intel-firmaet Kela identificeret flere sikkerhedsfejl i DeepSeeks R1-model. Kelas red team rapporterer, ifølge Security Week, at de har været i stand til at "jailbreake" modellen i forskellige scenarier, hvilket har gjort det muligt for dem at generere skadelige outputs. Dette inkluderer angiveligt udvikling af ransomware, fremstilling af følsomt indhold og detaljerede instruktioner til oprettelse af giftstoffer og eksplosive enheder.

Forholdsregler og fremtidige udsigter

DeepSeek har hurtigt markeret sig på AI-markedet med deres open source R1-model, som de hævder præsterer på niveau med populære chatbots som OpenAI's ChatGPT og Googles Gemini. Modsat er der også begyndt at komme historier frem om, hvordan Kinas censur og reguleringer forhindrer DeepSeek i at svare på spørgsmål, som styret i Beijing ikke ønsker frem, ligesom der meldes om massiv datahøst. 

I lyset af de nylige hændelser har DeepSeek under alle omstændigheder forsøgt at advare brugere om falske konti på sociale medier, der udgiver sig for at være virksomheden. Virksomheden arbejder også på at håndtere de aktuelle udfordringer og forventes at implementere yderligere sikkerhedsforanstaltninger for at beskytte både deres platform og brugere mod fremtidige trusler.

Disse begivenheder understreger de voksende sikkerhedsudfordringer, som selv nye og innovative teknologivirksomheder står over for i dagens digitale landskab, konkluderer Security Week.