Jag är trött

Jag är säker på att jag inte är den enda i den här situationen. Det finns fler underhållare och förespråkare av öppen källkod som befinner sig i samma situation. Sedan i juli det här året har jag börjat granska olika bibliotek, projekt och driftsmiljöer för öppen källkod för att hitta sårbarheter, och det har blivit väldigt utmattande med arbetsdagar på över 16 timmar. Fram till i morse hade jag hittat över 100 sådana problem; många finns i projekt som skrivits eller används av Sunet, och många har även en större användarbas.

Det jag granskar är tråkiga infrastrukturkomponenter. “NREN (National Research and Education Network) för varje land tillhör inte de grupperna som får mest bidragspengar. En liten grupp personer jobbar år efter år för att hålla igång infrastrukturen.

Och det är inte inte heller många som har turen att ha tillgång till moderna stora språkmodeller (LLM) eller kunskap om hur man använder dem för att hitta och åtgärda problem. Jag har tur och är tacksam mot Anthropic och OpenAI för att de gett mig tillgång till de senaste modellerna med kapacitet att utföra detta arbete. Men det är inte många som har det, vilket skapar för mycket press i mitt sinne, och vänner har säkert berättat liknande historier för mig (inom andra områden). För att försvara Sverige (eller ditt respektive land) kommer vi att behöva mer kapacitet och datorkraft/hårdvara samt människor som är villiga att utföra detta arbete. Så att vi inte är beroende av ett annat lands politiska åsikter för att försvara vårt eget land.

Många kommer att säga att öppna modeller kommer att lösa detta. Om man bara tänker på kapaciteten, ja, då håller de på att komma ikapp. Det roligaste för mig var att jag använde en öppen viktmodell och hittade fyra olika zero-day-sårbarheter i fyra Java-bibliotek (de är nu alla åtgärdade) och kedjekopplade dem för att kringgå valideringen av vissa kontroller av digitala signaturer – vilket var min första upptäckt (med hjälp av LLM:er) redan i juli. Men att använda öppna vikter är antingen inte tillåtet överallt, eller så har folk inte hårdvaran. Vi behöver kraftfull hårdvara för att kunna försvara oss. Många beslut måste fattas på olika nivåer i våra samhällen för att detta ska bli verklighet. Och jag tror inte att vi kommer att se några större framsteg så lätt.

Å andra sidan använder angripare 25 dollar och tillgång till samma möjligheter för att utföra attacker. Aktörer på nationell nivå är nu många gånger effektivare tack vare både sin intellektuella kapacitet och de pengar de kan satsa.

Jag hoppas att takten på upptäckten av nya buggar kommer att avta något om två år, men jag är inte säker på hur många av oss som inte kommer att vara utbrända vid det laget.

Obs: Många av er kanske frågar mig om tekniska detaljer kring upptäckterna eller vad jag använder specifikt. Det skulle kräva flera andra inlägg för mig att förklara, men ni kan helt enkelt börja pröva er fram med vad ni än har. Till exempel dagens upptäckt i ett annat stort projekt gjordes med hjälp av endast Pi. Inga hemliga knep. Bara att testa och mata in data i modellen för att styra den. Men om jag bara går efter siffrorna, så var det OpenAI-modellerna som hjälpte mig mest med att hitta sårbarheter och sedan skriva exploateringskod för att demonstrera för underhållsansvariga. Jag saknar dock förmågan att utföra ordentliga penetrationstester.