Calvin Risk schließt eine Pre-Seed-Runde im Wert von 1,5 Mio. $ ab
Vertrauenswürdige KI im Einklang mit Menschlichkeit
Calvin Risk hat 1,5 Millionen US-Dollar Pre-Seed von erfahrenen DeepTech-Investoren btov Partners und Wingman Ventures gesammelt. Das Unternehmen wurde als Spin-off der ETH Zürich gegründet, einem der zentralen Zentren Europas für KI-Forschung, mit dem Ziel, das volle Potenzial von KI für Unternehmen auszuschöpfen, indem eine Vielzahl von Risiken bewältigt wird.
Viele der heute entwickelten KI-Algorithmen sind kommerziell nicht rentabel. Die Entwicklung und der Einsatz von KI sind mit einer Vielzahl von Risiken behaftet, die es schwierig machen, im Labor erstellte Modelle auf KI-fähige Produkte umzustellen, die in der realen Welt funktionieren. Algorithmen sind oft „Black Boxes“ (d. h. schwer zu interpretierende Modelle), die mit riesigen Datenmengen trainiert wurden; wenn diese Daten systematisch verzerrt sind, wird es auch die daraus resultierende KI sein. Daher müssen KI-Entwickler sicherstellen, dass während der Trainingsphase des Algorithmus keine diskriminierenden Beziehungen gelernt wurden, die zu unfairen oder ungerechten Entscheidungen führen. Ebenso müssen KI-Entwickler sicherstellen, dass der trainierte Algorithmus seiner ursprünglichen Mission gerecht wird und belastbare Schlussfolgerungen zieht, auch wenn geringfügige Umgebungsschwankungen auftreten und nicht nur in einer Laborumgebung funktionieren. Daher besteht ein akuter Bedarf an Bewertungsmetriken, kontextspezifischen Bewertungen und kontinuierlicher Überwachung, um die Entwicklung der KI sicherzustellen und sicherzustellen, dass sie wie vorgesehen funktioniert.
Calvin Risikomanagement-Plattform
Die Calvin Risk-Plattform namens Calvin ist ein Risikomanagementsystem, in dessen Mittelpunkt das KI-Inventar eines Unternehmens steht (d. h. die Summe aller Algorithmen, die für den kommerziellen Einsatz entwickelt wurden). Unternehmen können die technischen, ethischen und regulatorischen Risiken ihres KI-Portfolios quantifizieren, indem sie die adaptiven Bewertungsaufgaben der Plattform in jeder Phase des Lebenszyklus eines Algorithmus durchführen. Das Ergebnis bietet einen Überblick und Einblicke in die Veränderung des Risikoniveaus im Laufe der Zeit und andere wichtige Faktoren, sowohl auf der Ebene einzelner Algorithmen als auch auf Portfolioebene. Die Plattform berechnet auch die Wahrscheinlichkeit eines Zwischenfalls sowie die potenziellen Kosten dieser Risiken. Eine Vielzahl von Funktionen — von Teamleitern über Manager, Funktionsleiter bis hin zu Risikoteams — profitieren von dem Überblick, den die Calvin-Plattform bietet. Dazu gehört auch die Möglichkeit, ihre gesamten KI-Bemühungen in allen Abteilungen einer Organisation kontinuierlich zu überwachen und automatisch über den Status ihres KI-Portfolios zu berichten.
Calvin Risk konzentriert sich auf drei spezifische Branchen: Versicherungen, Pharmazeutika und den Technologiesektor. „Eine Organisation profitiert am meisten von unserer Plattform, wenn ihre KI-Bemühungen ziemlich ausgereift sind. Ein Beispiel wäre ein Unternehmen, das bereits einige Algorithmen entwickelt und eingesetzt hat, aber seine Qualität und Standardisierung verbessern und den Rollout-Prozess professionalisieren möchte. „, sagt Julian Riebartsch, CEO von Calvin Risk. „Außerdem ist der Nutzen unseres Produkts umso größer, je allgegenwärtiger KI in größeren Organisationen wird.“ Mehrere Unternehmen haben Interesse an der Risikomanagement-Plattform „Calvin“ bekundet.
Die Unsicherheit im Zusammenhang mit KI ist branchenübergreifend spürbar
Selbst die anspruchsvollsten Unternehmen sind sich nicht sicher, wie sie KI-Algorithmen in den vielen relevanten Dimensionen wie Leistung, Robustheit, Fairness und Erklärbarkeit, die für den Aufbau einer vertrauenswürdigen KI entscheidend sind, effektiv bewerten können. Darüber hinaus haben viele Unternehmen nicht genug Erfahrung mit KI-basierten Softwareprodukten gesammelt, um die Risiken ihres Einsatzes auf dem Markt angemessen zu verstehen. Gleichzeitig haben Vorfälle systemischer KI-Ausfälle wie Googles leistungsschwaches und unpraktisches Tool zur Identifizierung von Augenkrankheiten oder Microsofts berühmter missbräuchlicher und rassistischer Chatbot viele auf der Hut.
Laut Tarek Besold, Head of Strategic AI bei DEKRA DIGITAL und Berater beim Schweizer Startup Calvin Risk, wird es für die Einführung von KI in allen Branchen entscheidend sein, Vertrauen, Akzeptanz und Verständnis für die Risiken zu gewinnen. „Nachhaltige Innovation setzt die Marktakzeptanz von Produkten voraus. Das Verständnis von Risiken hilft Verbrauchern, zu emanzipierten Akteuren auf dem Markt zu werden, Vorbehalte zu überwinden und neue Technologien zu akzeptieren. Dies ermöglicht dann weitere Innovationen. „, erklärt er.
Kommende Vorschriften wie das EU-Gesetz zur künstlichen Intelligenz machen KI-Governance und Risikomanagement für Entscheidungsträger in Unternehmen zu einem wichtigen Thema. Dies wird die Nachfrage nach Produkten wie Calvin erhöhen, die die Bereitstellungszyklen durch effiziente und vertrauenswürdige Bewertungsprozesse verkürzen und gleichzeitig sicherstellen können, dass ein Unternehmen die neuen Vorschriften einhält.
„Die Sicherstellung, dass die regulatorischen Ziele einer menschheitsorientierten KI mit dem Innovationsbedarf in Einklang gebracht werden, ist ein wichtiger Teil der Bemühungen von Calvin Risk“, erklärt Syang Zhou, CTO von Calvin Risk. „Unsere Plattform ermöglicht die Abstimmung zwischen sichereren und qualitativ hochwertigeren Modellen und die Aufrechterhaltung der ethischen Bemühungen der Menschheit bei gleichzeitiger Verbesserung der Prozesseffizienz. Das Ergebnis sind vertrauenswürdige und effektive Bewertungsprozesse.“ Dies ist die Mission, die sich das in der Schweiz ansässige Startup Calvin Risk gesetzt hat.
„Die Unsicherheit über die Risiken des Einsatzes von KI-Modellen hat dazu geführt, dass Unternehmen zu wenig in KI investieren, was das Risiko von Störungen erhöht. Die Calvin-Plattform ist das erste Universalprodukt, das eine Lösung für dieses Problem bietet „, sagt Andreas Goeldi, Partner bei btov.
Die Mittel aus der Finanzierungsrunde werden verwendet, um das Forschungs- und Entwicklungsteam zu erweitern und den Ansatz zur Risikoquantifizierung für die Versicherungs-, Pharma- und Hightech-Industrie zu validieren.
Über btov Partners
btov Partners ist eine europäische Risikokapitalgesellschaft, die sich seit 2000 auf Technologie-Startups konzentriert. Die Gemeinschaft unternehmerischer Privatinvestoren von btov bietet ihr einzigartiges Fachwissen und unterstützt die Leidenschaft des Unternehmens, unbekannte Unternehmen und vielversprechende Gründer zu entdecken. Sein Flaggschiff-Fonds Digital Tech konzentriert sich hauptsächlich auf Startups in den Bereichen Datenanalyse, KI, Fintech, SaaS, Logistik, digitale Gesundheit und digitale Marktplätze. Mit Niederlassungen in Berlin, Zürich, München, St. Gallen und Luxemburg investiert das Unternehmen in ganz Europa pro Jahr rund 100 Millionen Euro. Zu den bekanntesten Investitionen gehören SumUp, DeepL, Raisin DS, Ledgy, Facebook, Foodspring, ORCAM, Volocopter und XING.
Kontakt: Andreas Goeldi, Partner des BTOVDigital Tech Fund
Für weitere Informationen: https://btov.vc
Über Wingman Ventures
Wingman Ventures ist der führende Pre-Seed-Fonds der Schweiz und unterstützt Gründerteams beim Aufbau von Technologieunternehmen, die das Potenzial haben, Weltmarktführer zu werden. Wingman kann auf eine Erfolgsbilanz bei der Unterstützung außergewöhnlicher Gründer bei der Gründung bahnbrechender Unternehmen zurückblicken und ist der leidenschaftlichen Überzeugung, dass das Schweizer Startup-Ökosystem gerade erst anfängt, seine besten Erfolgsgeschichten zu schreiben.
Kontakt: Lukas Weder, Partner von WingmanVentures
Für weitere Informationen: https://www.wingman.ch
