Les modèles d'IA fonctionnent sur un domaine et un type de données spécifiques. Tout le monde a déjà interagi avec un modèle de conversation. Des modèles comme ChatGPT sont pré-entraînés sur de vastes corpus de texte non structurés (en commençant par l'ensemble d'Internet), sans supervision, en utilisant ce qu'on appelle une tâche de prétexte. Pour ChatGPT, il s'agit de la prédiction du jeton suivant : essayer de prédire le fragment de mot suivant ou le mot suivant dans une phrase. Il s'avère que c'est une tâche très utile pour permettre à un grand modèle d'apprendre la structure sous-jacente des données. C'est pourquoi le domaine est important. Si vous voulez générer de la prose shakespearienne, vous vous entraînez sur les œuvres complètes de Shakespeare. Si vous voulez du code, vous vous entraînez sur de vastes corpus de code.
À ce jour, aucun modèle à grande échelle n'a été développé pour les données de tomodensitométrie industrielle par rayons X. C'est ce que nous avons créé chez Lumafield : le premier modèle à grande échelle conçu pour comprendre ce type de données volumétriques particulièrement riche.
Cette approche a été tentée avec des données médicales et a évidemment été réalisée avec des images naturelles, mais aucune ne s'applique efficacement à la tomodensitométrie industrielle. C'est comparable à l'écart de transfert entre les sonnets de Shakespeare et les programmes Python. Il s'agit de mots dans les deux cas, mais ils proviennent de domaines très différents et les règles diffèrent considérablement. Les images de tomodensitométrie industrielle se forment de manière très distincte. Ce ne sont pas des images couleur à trois canaux, elles ont des profondeurs de bits différentes et la physique de formation de l'image est également différente. Une image naturelle se forme par la lumière visible réfléchie par les matériaux, diffusée, absorbée et réfractée à travers une lentille sur un capteur d'image.
La tomodensitométrie industrielle, quant à elle, est un processus d'imagerie computationnelle. Dans une image par réflexion, la valeur d'un pixel communique une information sur la surface rencontrée. Dans une image radiographique, en revanche, la valeur d'un pixel décrit une information sur la profondeur dans l'espace. Cela limite ce que les modèles entraînés sur des images naturelles peuvent extraire des données de tomodensitométrie, et c'est pourquoi nous avons entrepris d'entraîner un modèle spécifiquement conçu pour extraire des caractéristiques de haute qualité dans ce domaine.
Voici l'ensemble de données qui sous-tend notre modèle de fondation. Il est unique pour trois raisons :
Cet écart de domaine est la raison pour laquelle nous avons effectué un entraînement à partir de zéro. Pour comprendre ce que le modèle produit réellement, un concept est essentiel : le plongement. Une mesure utile, bien que simplifiée, d'un modèle de fondation consiste à vérifier s'il encode des échantillons similaires vers des emplacements similaires dans l'espace de plongement. Si vous présentez une population de chiens et de chats à un modèle de vision classique, les chiens devraient former un groupe et les chats un autre. Peut-être qu'un coyote se situera plus près des chiens et un tigre plus près des chats. La proximité, la distance et la direction dans cet espace ont une signification.
Un plongement bien formé possède des directions qui importent pour une tâche donnée. Dans les premiers modèles de reconnaissance faciale, il existait une direction pour la couleur des cheveux, des directions pour l'état émotionnel (heureux ou triste) ou le port de lunettes. Les axes constitutifs d'un bon plongement correspondent à des variations significatives dans l'ensemble de données. Le nôtre utilise actuellement 798 dimensions.
Une partie de la qualité d'un plongement (embedding) réside dans ce que le modèle apprend à ignorer. Présentez-lui la même image avec différents niveaux de bruit. Le modèle produit-il le même plongement, ou le bruit le disperse-t-il dans une direction précise ? Notre modèle perçoit la qualité des données ; la distinction entre une image floue et une image nette apparaît, ce qui est en soi utile.
Deux affirmations subtilement différentes sont faciles à confondre ici. La première est que les dimensions individuelles ont une signification spécifique, un axe pour la chimie de la batterie, une direction pour les vis manquantes. Ce n'est pas ainsi que notre modèle fonctionne actuellement, et il n'a pas besoin de l'être. La seconde est que les scans ayant une structure différente se retrouvent à des endroits différents dans l'espace. Cela est indéniablement vrai, et c'est le principe même du modèle.
La meilleure façon de juger un tel modèle est d'observer, à travers ses yeux, des populations réelles de pièces. Nous l'avons démontré à grande échelle à trois reprises, avec des téléphones, des connecteurs et des batteries.
Notre ensemble de données composé de plusieurs centaines d'iPhone 7 du marché secondaire se regroupe en régions d'autosimilarité. Ces téléphones étaient vendus avec deux configurations principales de carte logique, l'une utilisant une puce Qualcomm et l'autre une puce Intel. Les différents boîtiers et les différents brochages se manifestent par des motifs de soudure différents dans une région de la carte logique principale sous le processeur A10. Le modèle distingue les deux chipsets par lui-même.
Comme il s'agit de téléphones du marché secondaire, beaucoup ont vu leur batterie remplacée, et des groupes de batteries de construction et de fournisseurs différents se forment également : une région où la chimie présente une languette très proéminente, une autre où la polarité de la construction de la batterie est différente. Il manque visiblement des vis à un téléphone. Quelqu'un a dû l'ouvrir, remplacer la batterie et ne pas remettre les vis.
Ce qui est puissant, c'est que le modèle interprète ces données à grande échelle et trouve des modèles cachés qui sont corrélés à des propriétés utiles et pertinentes des produits manufacturés. Ce sont des sources de variation qu'un concepteur de produit ou un responsable de reconditionnement n'aurait peut-être même pas envisagées.
Les téléphones montrent que le modèle découvre une variété que personne n'avait cataloguée. Nos connecteurs montrent qu'il trace une ligne qui a une importance commerciale. Regardez le vrai par rapport au faux à travers les yeux du modèle, et vous obtenez une ventilation très claire des données des connecteurs : tout un type se regroupe d'un côté, tout l'autre type de l'autre. Si l'on observe ce qui varie, on constate qu'une population a des joints moins denses que l'autre et qu'un composant est situé dans une position légèrement différente.
Nous avons scanné 1 496 connecteurs répartis sur huit numéros de pièce sur un Triton : des unités authentiques provenant de distributeurs agréés et des équivalents du marché libre pour les mêmes numéros de pièce provenant d'AliExpress. La vue par plongement se confirme, et lorsque nous retournons dans les volumes pour comprendre pourquoi les populations se séparent, les réponses sont physiques. Nous avons pu mesurer des différences dans le choix des matériaux. Une densité plus élevée tout en étant plus transparente aux rayons X est une combinaison révélatrice : la charge de verre augmente fortement l'atténuation ; par conséquent, retirer le verre et le remplacer par un polymère de base plus lourd produit exactement cette signature. Notre hypothèse est qu'une résine non chargée comme le PBT a été substituée pour économiser sur l'usure des outils et la difficulté de moulage.
La conséquence survient plus tard, sur le terrain. Sans charge de verre, le boîtier présente moins de résistance et de stabilité dimensionnelle lorsqu'il est soumis à des cycles de température et à des vibrations. La porosité raconte la même histoire. La pièce moyenne du marché libre présente environ 5 fois plus de porosité que la pièce d'origine moyenne. Pour un numéro de pièce donné, le modèle a classé les pièces authentiques par rapport à celles du marché libre avec une précision de 98,8 %.
L'année dernière, nous avons scanné 1 054 batteries : 100 échantillons provenant de chacun des 10 fabricants, tous avec le même format cylindrique 18650. Nous avons inclus des équipementiers, des marques réputées de milieu de gamme et des marques purement issues du marché gris.
Lorsque nous avons fait passer les données par le modèle de base et examiné les scans à travers ses yeux, nous avons constaté une séparation claire. Le modèle pouvait distinguer les cellules provenant de différents fabricants. Cependant, dans un cas, le modèle n'a pas réussi à distinguer les cellules de deux fournisseurs différents. En examinant la raison de cet échec, il s'est avéré qu'un fournisseur était un équipementier (OEM) et le second un fournisseur de reconditionnement, une entreprise qui achète des cellules à un équipementier, les remballe, les marque sous sa propre étiquette et les vend sous une marque différente. Le fait que le modèle n'ait pas pu distinguer structurellement les cellules indique qu'il s'agit en réalité de la même population de cellules. L'échec a été la découverte. Il s'agit d'un risque de provenance invisible auparavant, mais manifeste dans les pièces elles-mêmes.
L'argument est ici plus vaste que n'importe quel cas isolé. Dans une grande partie de l'inspection électronique, un système AXI prend des images radiographiques 2D, voire des tomodensitogrammes (CT), et le goulot d'étranglement consiste à faire analyser ces images par des humains.
Les yeux humains capables de traiter ces images pour en extraire des informations et prendre des décisions sont extrêmement rares, tant en termes de disponibilité de main-d'œuvre que de formation. La seule chose qui évolue avec le volume de données produites par les systèmes de vision et les systèmes en ligne comme Mars est la perception machine, un modèle de base réglé pour comprendre précisément ces images.
Quality Agent et AIM s'appuient sur le modèle de base. Ensemble, ils forment un cadre permettant d'automatiser et d'étendre la qualité dans le secteur manufacturier, marquant une étape vers notre objectif d'automatisation de la production. Ils s'attaquent à deux goulots d'étranglement clés que nous avons observés à maintes reprises en collaborant avec des centaines de clients dans tous les secteurs majeurs. Forts de nos années d'expérience dans ce domaine, nous sommes convaincus qu'il s'agit là des véritables obstacles qui freinent la mise à l'échelle.
Le Quality Agent de Lumafield tire sa perception de ce modèle. Il allie une compréhension approfondie de la qualité des pièces à une connaissance du contrôle des processus pour fermer la boucle de manière autonome.
Tout commence au même endroit : un modèle qui apprend à partir d'un type de données que personne d'autre ne possède.