La sécurité commence par des limites claires d’accès, de données et de déploiement.

La responsabilité et le moindre privilège viennent d’abord.

Chaque mandat a une personne responsable clairement désignée. L’accès aux systèmes et aux renseignements du client est limité à ce que le travail exige, au moyen de comptes nominatifs lorsque la plateforme le permet. L’authentification multifacteur est activée lorsqu’elle est disponible, les identifiants partagés sont évités et les accès devraient être révisés lorsque les responsabilités changent puis retirés rapidement lorsqu’ils ne sont plus nécessaires.

Les secrets restent hors du code source et de la documentation courante.

Les clés d’API, mots de passe, certificats, jetons et autres identifiants sont conservés au moyen de mécanismes appropriés de gestion des secrets ou de configuration d’environnement. Les identifiants et environnements de développement, d’essai et de production sont séparés lorsque l’architecture le permet. Une exposition soupçonnée d’identifiants entraîne leur rotation et une revue de l’incident.

Les données du client sont réduites au nécessaire et utilisées pour la finalité convenue.

Amidship traite uniquement les renseignements nécessaires au résultat convenu et privilégie des données synthétiques, masquées ou réduites pour le développement et les essais lorsque les données de production ne sont pas nécessaires. Les exigences propres au client en matière de classification, de résidence, de conservation, de suppression et de traitement ont préséance sur cette base.

Avant de transmettre des renseignements du client à un service important d’IA, de modèle ou d’hébergement fourni par un tiers, le mandat devrait identifier le fournisseur, les catégories de données pertinentes, la finalité, les paramètres de conservation ou d’entraînement lorsque connus et configurables, les implications d’hébergement et de résidence, les sous-traitants importants et les restrictions contractuelles applicables.

La livraison sécurisée comprend le chemin jusqu’à la production.

Selon la portée et le risque, la prestation sécurisée peut comprendre :

• du code applicatif et de la configuration sous contrôle de version;
• une revue humaine de la conception et du code proportionnelle au risque;
• des tests et évaluations automatisés lorsque cela est approprié;
• une revue des dépendances et vulnérabilités adaptée au mandat;
• des environnements et identifiants distincts pour le développement, les essais et la production lorsque cela est pris en charge;
• une autorisation et une acceptation explicites avant le déploiement en production;
• des décisions d’architecture, instructions de déploiement et environnements reproductibles documentés lorsque c’est pratique.

Le code généré avec l’aide de l’IA est soumis aux mêmes attentes d’acceptation et de sécurité que le code écrit par une personne.

Les actions d’un agent sont aussi un problème de contrôle d’accès.

Pour un logiciel capable d’appeler des outils ou d’agir sur des systèmes externes, Amidship définit les outils et actions permis, applique le moindre privilège, ajoute des points d’approbation pour les opérations à conséquence, conserve des traces utiles des actions lorsque cela est approprié, teste les scénarios d’abus et d’injection d’instructions et prévoit des mécanismes d’escalade ou de désactivation.

La capacité technique du modèle n’est pas traitée comme une permission.

Un incident exige confinement, preuves et reprise.

Un incident important soupçonné de sécurité ou de protection des renseignements personnels devrait entraîner le confinement de l’accès ou du traitement touché, la préservation des preuves et journaux pertinents, l’évaluation des impacts, l’avis au client selon les délais contractuels ou juridiques applicables, la correction, la rotation des identifiants au besoin et un suivi documenté avant la reprise normale.

Les exigences propres au mandat ont préséance.

Les contrôles de sécurité ne sont pas universels. Un mandat gouvernemental, réglementé, comportant des données sensibles ou à conséquence élevée peut exiger un hébergement ou une résidence précis, des vérifications de sécurité, des classifications, des essais de vulnérabilité, des preuves d’audit, des délais d’incident, des services approuvés ou d’autres contrôles. Ces exigences sont identifiées pendant la qualification et la prestation plutôt que sous-entendues par cette base.

Posture actuelle d’assurance.

Amidship ne revendique pas actuellement ISO 27001, SOC 2, CPCSC/CMMC, une cote de sécurité du gouvernement du Canada ni une autre certification formelle de sécurité à moins qu’un titre de compétence courant et vérifié soit explicitement ajouté. Les réponses d’approvisionnement distinguent les pratiques déjà en place, les contrôles qui seront mis en œuvre pour un mandat précis, les dépendances envers le client et les certifications réellement détenues.