J’ai chargé le jeu de données et appliqué plusieurs étapes de prétraitement NLP, comme la tokenisation, le nettoyage et la normalisation du texte.
Classer automatiquement des commentaires avec l’IA — hackathon CodeML
- En vedette
- IA
Introduction
Quel était ce projet ?
Ce projet a été réalisé lors du CodeML Hackathon 2020, un hackathon de 48 heures organisé par PolyAI. Le défi consistait à prédire si un avis sur un produit était positif ou négatif.
Mon rôle
J’ai dirigé le développement du pipeline de machine learning, incluant le prétraitement des données, l’extraction de caractéristiques textuelles, l’entraînement de modèles de référence et l’expérimentation avec des modèles de langage préentraînés.
Détails techniques
Machine Learning : Python, Scikit-learn. Données : commentaires clients sur des produits, étiquetés comme positifs ou négatifs.
Période
Hackathon CodeML, 2020 — 48 h
Liens
Problème
Les entreprises reçoivent trop de commentaires pour pouvoir tous les classer manuellement.
Un modèle d’IA pourrait-il prédire si un nouveau commentaire est positif ou négatif ?
Solution
J’ai construit des modèles d’IA capables de classer automatiquement les commentaires.
- J’ai créé un modèle de référence utilisant TF-IDF et une régression logistique.
- J’ai intégré et ajusté Google ELECTRA avec SimpleTransformers.
- Le modèle ELECTRA a atteint la troisième place du classement Kaggle.
Processus
J’ai transformé les commentaires en représentations TF-IDF, puis entraîné un modèle de régression logistique comme première référence pour classifier les avis positifs et négatifs.
J’ai ensuite développé une seconde version avec Google ELECTRA, via la bibliothèque SimpleTransformers, et ajusté le modèle afin d’en améliorer les performances.
J’ai soumis les prédictions et comparé les résultats sur Kaggle, où l’approche ELECTRA s’est classée troisième.
Impact
3e place
notre modèle ELECTRA s’est classé troisième au défi de classification de sentiment.
Modèle ELECTRA
ce projet m’a permis d’acquérir une expérience pratique avec un modèle de langage préentraîné et de montrer ses performances supérieures à celles d’un modèle de référence plus simple.