35 gadi drošībā: no ASV armijas izlūkdienesta līdz GRC darbam HSBC, Deutsche Bank un Commerzbank un CISO lomai līdz deviņciparu privātā kapitāla darījumam. Tagad es palīdzu Eiropas komandām izvēlēties, izstrādāt un aizsargāt MI sistēmas, iestrādājot kontroles jau no pirmās skices.
Tims Kraučs (Tim Crouch)Global Software AI dibinātājs un CTO. CISSP. Atrodas Rīgā, strādā visā Eiropā.
Koplietotā dokumentā ir slēptas instrukcijas. Asistents to nolasa kā kontekstu un izpilda tās, piemēram, pārsūta datus pa e-pastu.
Uzskatiet izgūto tekstu par neuzticamiem datiem, turiet to atsevišķi no instrukcijām un ierobežojiet, ko modelis var izraisīt pēc tā nolasīšanas.
OWASP LLM01:2025 Prompt Injection. CISSP 8. domēns, Software Development Security.
Uzvednes nogādā klientu vārdus, līgumus vai kontu datus trešās puses modelim ārpus jūsu datu apstrādes līgumiem.
Nosakiet, ko drīkst sūtīt, aizklājiet datus pirms izsaukuma, izmantojiet ES mitinātu galapunktu ar DPA un reģistrējiet, kas tika nosūtīts.
OWASP LLM02:2025 Sensitive Information Disclosure. VDAR 28. pants. CISSP 2. domēns, Asset Security.
Asistentam ir marķieris, ar kuru tas var sūtīt e-pastus un mainīt ierakstus visa uzņēmuma vārdā, tāpēc viena slikta instrukcija rada plašu kaitējumu.
Ierobežojiet marķierus līdz konkrētam lietotājam, atļaujiet izejošās darbības tikai kā melnrakstus un pieprasiet cilvēka apstiprinājumu visam, kas pamet uzņēmumu.
OWASP LLM06:2025 Excessive Agency. CISSP 5. domēns, Identity and Access Management.
Meklēšanas indekss izveidots ar administratora kontu, tāpēc ikviens var jautāt asistentam par personāla lietām vai valdes dokumentiem, kurus pats nekad nevarētu atvērt.
Piemērojiet avota sistēmas piekļuves tiesības vaicājuma brīdī katram lietotājam un pārbaudiet to ar kontiem, kuriem piekļuve jāatsaka.
OWASP LLM08:2025 Vector and Embedding Weaknesses. CISSP 5. domēns.
Kad kaut kas noiet greizi, nav ieraksta par uzvedni, izgūtajiem avotiem vai rīku izsaukumiem, tāpēc jūs nevarat izmeklēt notikušo vai pierādīt atbilstību.
Reģistrējiet uzvednes, avotus un darbības ar glabāšanas noteikumiem, kas atbilst jūsu pienākumiem, un brīdiniet par neparastu rīku lietojumu.
NIST AI RMF, funkcijas Measure un Manage. CISSP 7. domēns, Security Operations.
Katrs projekts sākas ar vienu skaidru problēmu. Apjomu, cenu un rezultātus saskaņojam pirms jebkāda apmaksāta darba, un pēc tam jūs izlemjat, vai turpināt.
Visbiežāk pieprasītais
Komandām, kas ievieš MI rīkus vai gatavo MI funkciju plašākai lietošanai.
Apspriest pārskatuKomandām, kas zina, ka MI varētu palīdzēt, bet jāizvēlas, ar ko sākt.
Dibinātājiem un komandām ar konkrētu produktu vai integrāciju, kas jāpiegādā.
Divas dienas klātienē vadības komandām līdz 20 dalībniekiem. Iekļauti tiešsaistes moduļi un sertifikāts.
Pieejamas arī drošības un atbilstības konsultācijas (ISO 27001, VDAR, mākoņdrošība) un pielāgota programmatūra regulētām vidēm.
Dibinātājs un CTO, Global Software AIMI drošības konsultācijas un CompylotAI, no Rīgas
CTO un padomnieks, licencēta Vācijas investīciju pārvaldes sabiedrībaFinTech un TaxTech uzņēmumi un integrācija pēc iegādes
Kiberdrošības un GRC konsultantsHSBC Trinkaus, Deutsche Bank, Commerzbank
Līdzdibinātājs, CISO un CTO, Education AdvancedSaaS uzņēmums, kas sasniedza deviņciparu privātā kapitāla darījumu
ASV armijas izlūkdienesta pratinātājsPielaide "Top Secret", darbs krievu un vācu valodā
Raksti un video par MI drošību. Lielākā daļa apkopo primāro avotu, piemēram, NIST, OWASP vai ES MI aktu, un sasaista to ar CISSP domēniem, ko izmanto drošības komanda.
Katru nedēļu viens notikums drošībā un viens MI jomā, ar skaidrojumu, ko tas nozīmē komandām, kas izstrādā un uztur programmatūru.
Sekojiet mums LinkedIn, YouTube vai ar RSS. Raksti tiek publicēti angļu valodā.
Programmatūra, kas radusies no klientu projektiem, izstrādāta Rīgā un tiek lietota ražošanā.
Komunikācijas melnrakstu pārbaude pirms iesniegšanas atbilstības komandām ES un Vācijas finanšu iestādēs. MI sagatavo pārbaudi. Galīgais vārds paliek jūsu pārbaudītājiem.
Iepazīt CompylotAIVienmēr pieejams asistents uz atvēlētas, ES mitinātas infrastruktūras, pārvaldāms no Telegram. Piekļuves dati ir jūsu rokās, un jebkura atbalsta piekļuve tiek reģistrēta.
Iepazīt AI EmployeesEksperimenti, piemēram, NectarForge, Salon Rota, AImpressions un draudu modelēšanas spēles, atrodami laboratorijā.
Aprakstiet darba plūsmu, risku vai produktu dažos teikumos. Budžets un termiņi nav obligāti.
Es atbildu pa e-pastu, parasti vienas darba dienas laikā.
Ja esam piemēroti viens otram, runājam 30 minūtes bez maksas.
Jūs saņemat rakstisku apjomu un fiksētu cenu pirms jebkāda apmaksāta darba sākuma.
