Indirectly Managed Action by the ECCC (2027)

Verwacht resultaat:

Van voorstellen wordt verwacht dat ze bijdragen aan een of meer van de volgende punten:

• AI-gestuurde oplossingen voor realtime detectie van cyberdreigingen;
• Geavanceerde adaptieve AI-systemen die meegroeien met dynamische cyberbeveiligingsuitdagingen;
• Bijdragen aan een drastische verkorting van de hersteltijd van systemen.

Scope:

Kunstmatige intelligentie wordt steeds vaker gebruikt in cyberbeveiliging voor dreigingsdetectie, incidentrespons en adaptieve verdedigingsmechanismen. AI-gestuurde systemen zijn echter zelf vatbaar voor tegenstandersmanipulatie en vooringenomenheid. Dit onderwerp is gericht op het bevorderen van AI-gebaseerde cyberbeveiligingstoepassingen, terwijl wordt gewaarborgd dat AI-gestuurde oplossingen robuust, transparant en conform regelgevingskaders zoals de AI-verordening blijven. In deze context onderzoekt het onderwerp de rol van alle soorten AI, waaronder generatieve AI, in cyberbeveiligingstoepassingen, waaronder geautomatiseerde dreigingsdetectie, adaptieve cyberdefensie en AI-gestuurde cyberdreigingsinformatie. Voorstellen moeten oplossingen ontwikkelen voor betrouwbare AI in cyberbeveiligingscontexten, inclusief het aanpakken van risico's van tegenstanders-AI, in overeenstemming met de bepalingen van de AI-verordening. Het onderwerp wordt verwacht:

• AI-gestuurde oplossingen en tools ontwikkelen voor realtime detectie van cyberdreigingen. Onderzoek naar nieuwe machine learning-technieken om afwijkingen, kwaadaardige activiteiten en AI-gestuurde cyberdreigingen in realtime te detecteren, waardoor situationeel bewustzijn en responstijden worden verbeterd.
• Adaptieve AI-systemen ontwikkelen die kunnen meegroeien met dynamische cyberbeveiligingsuitdagingen. Verkenning van AI-technieken die continu leren van nieuwe cyberdreigingen, zich aanpassen aan opkomende aanvalspatronen, terwijl robuustheid en uitlegbaarheid behouden blijven.
• De toekomstige verbeteringen van Security Operation Centres/Cyber Hubs ondersteunen. Ontwikkeling van AI-verbeterde SOC-frameworks die voorspellende analyses, automatisering en dreigingsinformatie integreren om proactieve verdedigingsmaatregelen te versterken.