Des représentants de Tower Research Capital ont récemment participé à la conférence Neural information Processing Systems (NeuraIPS) 2024, l’un des plus importants rassemblements mondiaux sur les progrès de l’intelligence artificielle (IA) et de l’apprentissage automatique (AA). Des innovations en matière d’inférence axée sur l’efficacité aux percées dans le domaine de l’analyse des séries chronologiques et des outils de développement pilotés par l’IA, la conférence a permis de plonger dans les frontière évolutives de l’IA. Ramit Sawhney, responsable mondial de l’IA et de l’AA de base chez Tower, nous fait part de ses réflexions ci-dessous.

Innovations en matière de séries chronologiques : repères, variables explicatives et transformateurs à faible capacité de calcul

L’analyse des séries chronologiques a connu des progrès importants cette année, en particulier dans les repères, les méthodes de prédiction et les outils pour traiter les données irrégulières.

1. Analyse comparative des prédictions de séries chronologiques : Un nouveau cadre pour l’évaluation comparative de différents horizons prédictifs a gagné en popularité. Ces repères permettent une évaluation normalisée des modèles de séries chronologiques et des comparaisons cohérentes entre les prévisions à court terme (minutes) et à long terme (jours). Cela est particulièrement utile pour évaluer les modèles de séquence à séquence dans des domaines comme les marchés financiers, où des prévisions précises à court terme sont essentielles.
2. Transformateurs minuscules préentraînés pour les séries chronologiques multivariables : Dans un souci d’efficacité des ressources, des transformateurs préentraînés optimisés pour les environnements à faible capacité de calcul ont montré des résultats prometteurs pour les prévisions à court terme, en particulier pour les horizons allant jusqu’à 10 minutes. Cela en fait des outils précieux pour l’analyse en temps réel et la détection d’anomalies dans des domaines tels que la surveillance des capteurs et la négociation algorithmique.
3. Génération de variables explicatives pour les séries chronologiques irrégulières : L’intégration d’horodatages en tant que variables explicatives pour les données irrégulières ou manquantes est devenue une solution pratique pour traiter les ensembles de données incomplets. Cette approche améliore la robustesse des modèles et garantit des prévisions fiables, même lorsque des écarts de données surviennent.

Ensemble, ces innovations mettent en évidence une polyvalence croissante dans la modélisation des séries chronologiques, offrant des outils légers, robustes et testés pour leur applicabilité dans le monde réel.

Outils de code pilotés par l’IA : rationalisation du développement et du débogage

L’IA transforme les flux de développement de logiciels, et NeurIPS 2024 a présenté des outils passionnants qui accélèrent les cycles de développement :

1. Outils de complétion de code : Les outils de complétion de code propulsés par l’IA continuent d’évoluer, automatisant les tâches répétitives et permettant aux développeurs de se concentrer sur la résolution de problèmes complexes et l’innovation. Ces outils raccourcissent considérablement les délais de développement et améliorent l’efficacité du codage.
2. Interprétation des journaux d’erreurs : Les solutions d’IA capables d’analyser les journaux d’application et les messages d’erreur ont réduit les délais de résolution des problèmes pour les équipes de soutien. En identifiant les schémas d’erreurs, ces outils rationalisent le débogage et améliorent la fiabilité du système.
3. Environnements de programmation basés sur l’IA : Au-delà de la complétion de code, des innovations comme R2e (présentées lors de conférences précédentes) créent des environnements d’agents de programmation dynamiques. À NeurIPS, des outils tirant parti de cadres similaires ont été présentés, montrant comment les grands modèles de langage peuvent contribuer à des tâches comme le remaniement du code, le développement de fonctions et les tests automatisés. Ces progrès préfigurent un avenir où l’IA s’intégrera directement dans le cycle de développement des logiciels.

Pratiques d’analyse comparative et référentiels de données : améliorer l’évaluation de l’AA

Dans la recherche sur l’apprentissage automatique, il est courant d’évaluer les algorithmes en fonction de leur performance sur des ensembles de données de référence standard. Bien qu’il existe un nombre croissant de travaux établissant des lignes directrices pour les données et les pratiques d’analyse comparative dans l’apprentissage automatique – et formulant des critiques à leur égard –, les référentiels de données dans lesquels ces ensembles de données sont stockés, documentés et partagés ont fait l’objet d’une attention relativement moindre.

Aujourd’hui, l’attention se porte davantage sur le paysage de ces référentiels de données de référence et sur le rôle qu’ils peuvent jouer dans l’amélioration de l’analyse comparative. Ce rôle consiste notamment à résoudre les problèmes liés aux ensembles de données eux-mêmes (p. ex., les préjudices liés à la représentation, la validité de la construction) et à la façon dont les ensembles de données sont utilisés pour réaliser les évaluations (p. ex., l’importance excessive accordée à quelques ensembles de données et mesures, le manque de reproductibilité).

À cette fin, le travail identifie et examine les considérations entourant la conception et l’utilisation des référentiels de données de référence, en mettant l’accent sur l’amélioration des pratiques d’analyse comparative dans l’apprentissage automatique. Ces connaissances ont le potentiel de relever les défis systémiques lors de l’évaluation, en rendant l’analyse comparative plus transparente, reproductible et représentative.

Dernières réflexions

NeurIPS 2024 a démontré que l’innovation en matière d’IA continue de prospérer dans toutes les dimensions, de l’efficacité des modèles aux applications de séries chronologiques en passant par les outils de développement pilotés par l’IA. Ces percées ouvrent la voie à des systèmes plus intelligents, plus rapides et plus performants pour relever les défis du monde réel.

Au fur et à mesure que ces technologies évoluent, nous, à Tower Research Capital, demeurons engagés à intégrer des solutions d’IA de pointe dans nos flux de travail. Qu’il s’agisse d’améliorer les stratégies de négociation, d’optimiser les pipelines de développement ou d’étendre les modèles prédictifs, l’avenir de l’IA recèle un immense potentiel d’innovation.

Si vous êtes passionné par l’IA et l’AA et que vous souhaitez avoir un impact, nous sommes toujours à la recherche de personnes talentueuses. Allez sur notre site Web pour explorer les occasions ouvertes à Tower Research Capital!