Filter Fördermittelsuche
Call Navigation
Call-Eckdaten
Bewertungsmethoden für KI-Fähigkeiten und -Risiken für allgemeine Zwecke (KI/Daten/Robotik-Partnerschaft)
Förderprogramm
Horizont Europa: Cluster 4 - Digital, Industrie und Raumfahrt
Call Nummer
HORIZON-CL4-2025-04-DIGITAL-EMERGING-04
Termine
Öffnung
10.06.2025
Deadline
02.10.2025 17:00
Förderquote
100%
Budget des Calls
€ 7.000.000,00
Geschätzter Beitrag der EU pro Projekt
zwischen € 3.000.000,00 und € 4.000.000,00
Link zum Call
Link zur Einreichung
Call-Inhalte
Kurzbeschreibung
Dieses Thema zielt darauf ab, robuste Bewertungsinstrumente, -techniken und Benchmarks zu entwickeln, die speziell für eine strenge Bewertung von GPAI-Modellen und -Systemen, einschließlich multimodaler Systeme, konzipiert sind.
Call-Ziele
Die rasanten Fortschritte im Bereich der künstlichen Intelligenz (KI) haben zur Entwicklung von immer ausgefeilteren KI-Modellen und -Systemen für allgemeine Zwecke geführt. Diese Modelle, wie z. B. große Sprachmodelle und multimodale KI-Systeme, zeigen bemerkenswerte Fähigkeiten in einem breiten Spektrum von Aufgaben. Die Bewertung der Fähigkeiten dieser Modelle stellt jedoch nach wie vor eine große Herausforderung dar. Herkömmliche Bewertungsmethoden erfassen oft nicht das gesamte Spektrum der Fähigkeiten, die GPAI-Modelle und -Systeme aufweisen. Daher besteht ein dringender Bedarf an der Entwicklung neuer Bewertungsrahmen, -methoden und -werkzeuge, die eine umfassende Bewertung dieser Modelle im Hinblick auf ihr vertrauenswürdiges und ethisches Verhalten und ihren Betrieb ermöglichen und ihre Zuverlässigkeit, Fairness und Übereinstimmung mit menschlichen Werten gewährleisten.
Die Vorschläge sollten einen oder mehrere der folgenden Forschungsbereiche abdecken:
- Innovative Methoden zur proaktiven Identifizierung und Vorhersage neu entstehender Fähigkeiten in GPAI-Modellen und -Systemen. Dies umfasst die Identifizierung von Fähigkeiten, die sowohl vorteilhaft als auch potenziell nachteilig sind.
- Bewertung von GPAI-Fähigkeiten, die erhebliche wirtschaftliche Auswirkungen haben oder missbraucht werden können. Dazu gehört die Bewertung von Fähigkeiten, die nützliche Innovationen und den gesellschaftlichen Nutzen fördern, sowie die Bewertung potenzieller Risiken in Bereichen wie chemische, biologische, radiologische und nukleare Gefahren (CBRN) oder Bedrohungen der Cybersicherheit.
- Entwicklung von Bewertungstechniken, die die zugrundeliegenden Mechanismen neu entstehender Fähigkeiten in KI-Systemen beleuchten, wobei der Schwerpunkt auf Interpretierbarkeit und Erklärbarkeit liegt.
Die Projekte sollten Beispiel-Benchmark-Tests entwickeln, um trainierte KI-Modelle zu untersuchen und systematisch verborgene Fähigkeiten aufzudecken. Diese Benchmarks werden GPAI-Anbieter*innen, politischen Entscheidungsträger*innen und anderen relevanten Akteur*innen zur Verfügung gestellt, um robuste Bewertungsinstrumente zu implementieren.
Bei diesem Thema wird die Bildung interdisziplinärer Teams, die über das erforderliche Fachwissen verfügen, dringend empfohlen. Ein solcher gemeinschaftlicher Ansatz wird sicherstellen, dass die Bewertungen reale Anwendungsfälle, einschließlich der Techniken zur Erhebung von Fähigkeiten, genau erfassen und dass die entwickelten Rahmen, Methoden und Instrumente den Anliegen aller relevanten Interessengruppen gerecht werden.
weiterlesen
Erwartete Effekte und Auswirkungen
Dieses Thema erfordert den effektiven Beitrag von SSH-Disziplinen und die Einbeziehung von SSH-Expert*innen, Institutionen sowie die Einbeziehung von relevantem SSH-Fachwissen, um sinnvolle und signifikante Effekte zu erzielen, die die gesellschaftliche Wirkung der damit verbundenen Forschungsaktivitäten verstärken.
Die Vorschläge müssen den Anforderungen von Horizon Europe in Bezug auf offene Wissenschaft entsprechen. Es sollte ein offener Zugang zu den Forschungsergebnissen gewährt werden, es sei denn, es gibt einen legitimen Grund oder eine Einschränkung; in solchen Fällen sollte der Vorschlag detailliert darlegen, wie GPAI-Anbieter*innen, politische Entscheidungsträger*innen und andere Interessengruppen Zugang zu den Forschungsergebnissen haben werden.
Von allen Vorschlägen wird erwartet, dass sie Mechanismen zur Bewertung und zum Nachweis von Fortschritten enthalten, einschließlich qualitativer und quantitativer KPIs, Benchmarking und Fortschrittsüberwachung. Dies sollte auch die Teilnahme an internationalen Bewertungswettbewerben und die Präsentation von anschaulichen Anwendungsfällen umfassen, die einen konkreten potenziellen Mehrwert aufzeigen. Kommunizierbare Ergebnisse sollten mit der europäischen F&E-Gemeinschaft über die AI-on-Demand-Plattform und ggf. andere relevante digitale Ressourcenplattformen geteilt werden, um das europäische KI-, Daten- und Robotik-Ökosystem durch die Verbreitung von Ergebnissen und bewährten Verfahren zu stärken.
Dieses Thema setzt die ko-programmierte Europäische Partnerschaft für KI, Daten und Robotik (ADRA) um, und von allen Vorschlägen wird erwartet, dass sie Aufgaben für Kohäsionsaktivitäten mit ADRA und dem CSA HORIZON-CL4-2025-03-HUMAN-18 vorsehen: GenAI4EU central Hub.
Die Vorschläge sollten auch auf bestehenden Projekten aufbauen oder eine Zusammenarbeit mit diesen anstreben und Synergien mit anderen relevanten internationalen, europäischen, nationalen oder regionalen Initiativen entwickeln. Was die europäischen Programme betrifft, so wird von den Projekten erwartet, dass sie Synergien und Komplementaritäten mit einschlägigen Projekten entwickeln, die im Rahmen von Horizont Europa, aber auch im Rahmen des Programms Digitales Europa (DEP) finanziert werden.
weiterlesen
Erwartete Ergebnisse
Es wird erwartet, dass die Projektergebnisse zu einigen der folgenden erwarteten Ergebnisse beitragen werden:
- Entwicklung neuer Bewertungs- und Validierungsmethoden zur Evaluierung von General Purpose AI (GPAI)-Modellen, einschließlich multimodaler Systeme, sowie der Fähigkeiten und Risiken der Systeme.
- Nutzung der Forschungsergebnisse durch GPAI-Anbieter*innen, politische Entscheidungsträger*innen, öffentliche Einrichtungen und andere relevante Interessengruppen zur Bewertung der Fähigkeiten und Risiken von GPAI-Modellen und -Systemen.
- Unterstützung des KI-Büros bei der Durchführung von Evaluierungen von KI-Modellen für allgemeine Zwecke im Hinblick auf die Durchsetzung der Vorschriften des KI-Gesetzes für KI-Modelle für allgemeine Zwecke und Erleichterung der Selbstevaluierung für GPAI-Modellentwickler*innen, um die Einhaltung der Anforderungen des KI-Gesetzes sicherzustellen.
Förderfähigkeitskriterien
Förderregion/-länder
Island (Ísland), Israel (ישראל / إِسْرَائِيل), Kanada (Canada), Neuseeland (Aotearoa), Norwegen (Norge), Schweiz (Schweiz/Suisse/Svizzera), Vereinigtes Königreich (United Kingdom)
förderfähige Einrichtungen
Aus- und Weiterbildungseinrichtung, EU-Einrichtung, Forschungseinrichtung inkl. Universität, Kleines und mittleres Unternehmen (KMU), Non-Profit-Organisation (NPO) / Nichtregierungsorganisation (NGO), Private Einrichtung, inkl. privates Unternehmen (privat und gewinnorientiert), Sonstige, Öffentliche Einrichtung (national, regional und lokal; inkl. EVTZ)
verpflichtende Partnerschaft
Ja
Projektpartnerschaft
Um für eine Förderung in Frage zu kommen, müssen die Antragstellende ihren Sitz in einem der folgenden Länder haben:
- den Mitgliedstaaten der Europäischen Union, einschließlich ihrer Regionen in äußerster Randlage
- den überseeischen Ländern und Gebieten (ÜLG), die mit den Mitgliedstaaten verbunden sind
- mit Horizont Europa assoziierte Länder - siehe Liste der teilnehmenden Länder
Nur Rechtspersonen, die ein Konsortium bilden, können an den Maßnahmen teilnehmen, sofern dem Konsortium als Begünstigte drei voneinander unabhängige Rechtspersonen angehören, die jeweils in einem anderen Land ansässig sind, und zwar
- mindestens eine unabhängige Rechtsperson mit Sitz in einem Mitgliedstaat und
- mindestens zwei weitere unabhängige Rechtspersonen, die jeweils in verschiedenen Mitgliedstaaten oder assoziierten Ländern ansässig sind.
Jede Rechtsperson, unabhängig von ihrem Sitz, einschließlich Rechtspersonen aus nicht assoziierten Drittländern oder internationalen Organisationen (einschließlich internationaler europäischer Forschungsorganisationen), kann teilnehmen (unabhängig davon, ob sie für eine Finanzierung in Frage kommt oder nicht), sofern die in der Horizont-Europa-Verordnung festgelegten Bedingungen sowie alle anderen im jeweiligen Aufforderungsthema festgelegten Bedingungen erfüllt sind.
Eine "Rechtsperson" ist eine natürliche oder juristische Person, die nach einzelstaatlichem Recht, EU-Recht oder internationalem Recht gegründet wurde und als solche anerkannt ist, Rechtspersönlichkeit besitzt und in eigenem Namen handelnd Rechte ausüben und Verpflichtungen eingehen kann, oder eine Einrichtung ohne Rechtspersönlichkeit.
Sonderfälle:
- Verbundene Einrichtungen (d. h. Einrichtungen, die rechtlich oder kapitalmäßig mit einem Begünstigten verbunden sind und sich an der Maßnahme mit ähnlichen Rechten und Pflichten wie die Begünstigten beteiligen, die aber die Finanzhilfevereinbarung nicht unterzeichnen und daher nicht selbst zu Begünstigten werden) sind zulässig, wenn sie für eine Teilnahme und Finanzierung in Frage kommen.
- Assoziierte Partner (d. h. Einrichtungen, die sich an der Maßnahme beteiligen, ohne die Finanzhilfevereinbarung zu unterzeichnen, und ohne das Recht, Kosten in Rechnung zu stellen oder Beiträge zu fordern) sind zulässig, sofern die in den besonderen Bedingungen der Aufforderung zur Einreichung von Vorschlägen genannten Bedingungen für assoziierte Partner erfüllt sind.
- Einrichtungen, die nach nationalem Recht keine Rechtspersönlichkeit besitzen, können ausnahmsweise teilnehmen, sofern ihre Vertreter*innen in der Lage sind, in ihrem Namen rechtliche Verpflichtungen einzugehen, und Garantien zum Schutz der finanziellen Interessen der EU bieten, die denen von juristischen Personen gleichwertig sind.
- Nach EU-Recht geschaffene Rechtspersonen (EU-Einrichtungen), einschließlich dezentraler Agenturen, können dem Konsortium angehören, sofern in ihrem Gründungsakt nichts anderes vorgesehen ist.
- Internationale europäische Forschungseinrichtungen sind förderfähig. Internationale Organisationen mit Sitz in einem Mitgliedstaat oder einem assoziierten Land sind förderfähig für "Ausbildungs- und Mobilitätsmaßnahmen" oder wenn dies in den spezifischen Bedingungen der Aufforderung/des Themas vorgesehen ist. Andere internationale Organisationen sind nicht förderfähig, es sei denn, dies ist in den spezifischen Bedingungen der Aufforderung/des Themas vorgesehen oder ihre Beteiligung wird von der Bewilligungsbehörde als wesentlich für die Durchführung der Maßnahme angesehen.
- Gemeinsame Forschungsstelle (GFS) - Sofern dies in den besonderen Bedingungen der Aufforderung vorgesehen ist, können die Antragstellenden in ihren Vorschlägen den möglichen Beitrag der GFS erwähnen, die GFS beteiligt sich jedoch nicht an der Ausarbeitung und Einreichung des Vorschlags. Die Antragstellenden geben den Beitrag an, den die GFS je nach Umfang des Themas zu dem Projekt leisten könnte. Nach dem Bewertungsverfahren können die GFS und das für die Finanzierung ausgewählte Konsortium eine Vereinbarung über die spezifischen Bedingungen für die Beteiligung der GFS treffen. Wird eine Einigung erzielt, kann die GFS der Finanzhilfevereinbarung als Begünstigter beitreten, der eine Nullfinanzierung beantragt, oder sich als assoziierter Partner beteiligen und würde dem Konsortium als Mitglied beitreten.
- Vereinigungen und Interessenverbände - Einrichtungen, die sich aus Mitgliedern zusammensetzen (z. B. europäische Forschungsinfrastrukturkonsortien (ERICs)), können als "alleinige Begünstigte" oder "Begünstigte ohne Rechtspersönlichkeit" teilnehmen. Wenn die Maßnahme jedoch in der Praxis von den einzelnen Mitgliedern durchgeführt wird, sollten diese Mitglieder ebenfalls teilnehmen (entweder als Begünstigte oder als verbundene Einrichtungen, da ihre Kosten sonst NICHT förderfähig sind).
- Restriktive Maßnahmen der EU - Einrichtungen, die restriktiven Maßnahmen der EU gemäß Artikel 29 des Vertrags über die Europäische Union (EUV) und Artikel 215 des Vertrags über die Arbeitsweise der EU (AEUV) sowie Artikel 75 AEUV unterliegen, können in keiner Eigenschaft teilnehmen, auch nicht als Begünstigte, verbundene Einrichtungen, assoziierte Partner, Dritte, die Sachleistungen erbringen, Unterauftragnehmer*innen oder Empfänger*innen finanzieller Unterstützung für Dritte (falls vorhanden).
- Juristische Personen mit Sitz in Russland, Belarus oder in nicht von der Regierung kontrollierten Gebieten der Ukraine - In Anbetracht der illegalen Invasion der Ukraine durch Russland und der Beteiligung von Belarus gibt es derzeit keinen geeigneten Rahmen für die Durchführung der in diesem Programm vorgesehenen Maßnahmen mit juristischen Personen mit Sitz in Russland, Belarus oder in nicht von der Regierung kontrollierten Gebieten der Ukraine. Selbst wenn solche Einrichtungen nicht den restriktiven Maßnahmen der EU unterliegen, können sie daher nicht in irgendeiner Eigenschaft teilnehmen. Dies gilt auch für die Teilnahme als Begünstigte, verbundene Unternehmen, assoziierte Partner, Dritte, die Sachleistungen erbringen, Unterauftragnehmer*innen oder Empfänger*innen von finanzieller Unterstützung für Dritte (falls vorhanden). Ausnahmen können in begründeten Fällen von Fall zu Fall gewährt werden.
Was speziell die an Russland gerichteten Maßnahmen betrifft, so sind nach der Annahme der Verordnung (EU) Nr. 2024/1745 des Rates vom 24. Juni 2024 (zur Änderung der Verordnung (EU) Nr. 833/2014 des Rates vom 31. Juli 2014) über restriktive Maßnahmen angesichts der Handlungen Russlands, die die Lage in der Ukraine destabilisieren, juristische Personen, die außerhalb Russlands ansässig sind, deren Eigentumsrechte jedoch zu mehr als 50 % direkt oder indirekt einer juristischen Person, Organisation oder Einrichtung mit Sitz in Russland gehören, ebenfalls von der Teilnahme in jeglicher Eigenschaft ausgeschlossen. - Maßnahmen zum Schutz des Unionshaushalts vor Verstößen gegen die Grundsätze der Rechtsstaatlichkeit in Ungarn - Gemäß dem Durchführungsbeschluss (EU) 2022/2506 des Rates können ab dem 16. Dezember 2022 keine rechtlichen Verpflichtungen mit ungarischen Stiftungen von öffentlichem Interesse, die gemäß dem ungarischen Gesetz IX von 2021 gegründet wurden, oder mit den von ihnen unterhaltenen Einrichtungen eingegangen werden. Die betroffenen Einrichtungen können sich weiterhin an Aufforderungen zur Einreichung von Vorschlägen beteiligen und als assoziierte Partner teilnehmen, ohne EU-Mittel zu erhalten, sofern die Bedingungen der Aufforderung dies zulassen. Solange die Maßnahmen des Rates jedoch nicht aufgehoben sind, können diese Einrichtungen nicht in einer geförderten Rolle teilnehmen (Begünstigte, verbundene Einrichtungen, Unterauftragnehmer*innen, Empfänger*in finanzieller Unterstützung für Dritte usw.) Bei Aufforderungen zur Einreichung von Vorschlägen mit mehreren Begünstigten werden die Antragsteller aufgefordert, die betreffende Einrichtung in einer geförderten Rolle zu streichen oder zu ersetzen und/oder ihren Status in einen assoziierten Partner zu ändern. Die Aufgaben und das Budget können entsprechend umverteilt werden.
weitere Förderkriterien
Um die erwarteten Ergebnisse zu erzielen und die strategischen Vermögenswerte, Interessen, die Autonomie und die Sicherheit der Union zu schützen, ist es wichtig, eine technologische Abhängigkeit von einer Quelle außerhalb der EU zu vermeiden, und zwar in einem globalen Kontext, der es der EU abverlangt, Maßnahmen zu ergreifen, um auf ihren Stärken aufzubauen, und alle strategischen Schwächen, Anfälligkeiten und risikoreichen Abhängigkeiten, die die Verwirklichung ihrer Ziele gefährden, sorgfältig zu bewerten und zu beseitigen. Aus diesem Grund ist die Teilnahme auf Rechtspersonen mit Sitz in den Mitgliedstaaten, Island und Norwegen sowie den folgenden zusätzlichen assoziierten Ländern beschränkt: Kanada, Israel, die Republik Korea, Neuseeland, die Schweiz und das Vereinigte Königreich.
Um den Schutz der strategischen Interessen der Union und ihrer Mitgliedstaaten zu gewährleisten, dürfen aus den im vorstehenden Absatz aufgeführten, hinreichend gerechtfertigten und außergewöhnlichen Gründen Rechtspersonen, die in einem der vorstehend aufgeführten förderfähigen Länder niedergelassen sind, jedoch direkt oder indirekt von einem nicht förderfähigen Land oder einer Rechtsperson eines nicht förderfähigen Landes kontrolliert werden, nur dann an der Aktion teilnehmen, wenn durch von ihrem förderfähigen Niederlassungsland positiv bewertete Garantien nachgewiesen werden kann, dass sich ihre Teilnahme an der Aktion nicht negativ auf die strategischen Vermögenswerte, Interessen, die Autonomie oder die Sicherheit der Union auswirken würde. Unternehmen, die als Hochrisiko-Lieferanten von Mobilnetz-Kommunikationsausrüstung im Sinne der "Beschränkungen für den Schutz europäischer Kommunikationsnetze" eingestuft werden (oder Unternehmen, die sich ganz oder teilweise im Besitz oder unter der Kontrolle eines Hochrisiko-Lieferanten befinden), können keine Garantien vorlegen.
Zusatzinformationen
Themen
Relevanz für EU-Makroregion
EUSAIR - EU Strategie für den adriatischen-ionischen Raum, EUSALP - EU Strategie für den Alpenraum, EUSBSR - EU Strategie für den Ostseeraum, EUSDR - EU Strategie für den Donauraum
UN Nachhaltigkeitsziele (UN-SDGs)
Zusätzliche Informationen
Die Anträge müssen elektronisch über das elektronische Einreichungssystem des Funders & Tenders Portal eingereicht werden (zugänglich über die Themenseite im Bereich Search Funding & Tenders ). Einreichungen auf Papier sind NICHT möglich.
Für die Einreichung von Anträgen sind die im elektronischen Einreichungssystem bereitgestellten Formulare zu verwenden (nicht die auf der Themenseite verfügbaren Vorlagen, die nur zur Information dienen). Der Aufbau und die Präsentation müssen den Anweisungen in den Formularen entsprechen.
Die Anträge müssen vollständig sein und alle Teile und obligatorischen Anhänge und Belege enthalten.
Das Antragsformular besteht aus zwei Teilen:
- Teil A (direkt online auszufüllen) enthält administrative Angaben zu den antragstellenden Organisationen (künftiger Koordinator und Begünstigte sowie verbundene Einrichtungen), die zusammengefasste Kostenaufstellung für den Vorschlag und aufrufspezifische Fragen;
- Teil B (der vom Einreichungssystem des Portals herunterzuladen, auszufüllen und dann zusammenzusetzen und als PDF-Datei wieder in das System hochzuladen ist) enthält die technische Beschreibung des Projekts.
Anhänge und Begleitdokumente sind direkt im Einreichungssystem verfügbar und müssen als PDF-Dateien (oder in anderen vom System zugelassenen Formaten) hochgeladen werden.
Ein vollständiger Antrag (Teil B) darf höchstens 45 Seiten umfassen.
Die Aktivitäten sollen bei TRL 2 beginnen und bis zum Ende des Projekts TRL 5 erreichen.
Um mehr Informationen zu diesem Call zu sehen, können Sie sich hier kostenlos registrieren
oder mit einem bestehenden Account anmelden.
Anmelden
Jetzt Registrieren