James Stewart et Stephen Goddard ont cofondé TrojAI en 2019 lorsqu'ils ont réalisé que les attaques adverses contre l'IA étaient de plus en plus préoccupantes. Avec la popularité croissante de l'utilisation de l'IA par les entreprises, TrojAI intervient pour s'assurer que les systèmes d'IA sophistiqués sont testés et surveillés afin de protéger l'investissement et la réputation des utilisateurs.

De gauche à droite, Phil Munz (gestionnaire, science des données), Stan Petley (directeur de l'ingénierie), et Rich Taylor (directeur de la réussite des clients).

TrojAI est une entreprise multinationale dont le siège se trouve au Nouveau-Brunswick et qui compte parmi ses clients certaines des plus grandes entreprises du monde, y compris celles du classement Fortune 100. Le Conseil national de recherches du Canada évalue TrojAI en tant que plateforme de sécurité de l'IA pour tester les modèles d'IA en cours de développement au CNRC pour le gouvernement du Canada. En 2023, l'entreprise a figuré sur la liste de l'Institut Vector des 20 Canadian AI Startups to Watch et, en 2024, sur la liste des Top 100 AI Startups de CB Insights. 

Le travail innovant des fondateurs de TrojAI leur a valu le prix de la startup la plus innovante lors de la remise des prix InnovateNB, un événement qui célèbre les réalisations des principaux innovateurs de la province. Ce prix récompense une entreprise qui existe depuis moins de 10 ans et qui utilise une approche innovante pour résoudre un problème sur le marché.

L'histoire de TrojAI

James Stewart, cofondateur de TrojAI, apporte une riche expérience, après avoir obtenu un doctorat en informatique à l'Université du Nouveau-Brunswick et avoir été analyste criminel et officier de police auxiliaire pendant 20 ans. Il a auparavant fondé et quitté avec succès une entreprise appelée EhEye, spécialisée dans la vidéosurveillance automatisée à l'aide de modèles de vision par ordinateur. En 2018, des chercheurs dans le domaine de l'IA contradictoire ont découvert un moyen d'injecter du bruit dans une image pour forcer une mauvaise classification. Ils ont conçu un modèle de vision par ordinateur et sont parvenus à créer un motif qui, lorsqu'il est présenté au modèle, rend les objets invisibles pour l'IA. Face à cette menace, James Stewart et Stephen Goddard ont fondé TrojAI afin de fournir une protection contre les attaques potentielles contre l'IA.

Une attaque contre l'IA est définie comme une tentative malveillante d'amener un système d'IA à prendre des décisions incorrectes ou involontaires qui pourraient être préjudiciables. Pour résoudre le problème de la sécurisation des modèles et des applications d'IA, TrojAI sécurise le comportement du modèle d'IA lui-même, qui constitue de plus en plus la base de toute application d'IA. TrojAI surveille également les modèles et applications d'IA déployés pour s'assurer que les systèmes en direct continuent de fonctionner comme ils le devraient et que toute attaque potentielle contre le modèle ou l'application est stoppée.

Impact sur le Nouveau-Brunswick

TrojAI s'est engagée à s'impliquer dans la communauté locale, à contribuer au développement économique et à renforcer la position du Nouveau-Brunswick en tant que leader dans le développement de produits de cybersécurité avancés.

L'entreprise a doublé de taille au cours des deux dernières années et a ouvert deux nouveaux bureaux, l'un à Boston et l'autre à Fredericton. Le personnel chargé de la science des données, de l'ingénierie et du soutien est basé au Nouveau-Brunswick. L'entreprise tire parti de ses relations avec l'Université du Nouveau-Brunswick et le Collège communautaire du Nouveau-Brunswick, et embauche de nombreux scientifiques des données, programmeurs et stagiaires issus de ces institutions.