2019 год и далее
Благодаря развитию и увеличению масштаба, языковые модели стали более мощными и точными. В 2019 году OpenAI выпустила модель GPT-2, а в 2020 году – GPT-3, обладающую еще более высокими точностью и способностью к обучению. GPT-3 стала основой для различных приложений, связанных с обработкой естественного языка, включая чат-боты и множество других сервисов.
Начало 2020-х
В это время различные организации и компании продолжают исследовать и разрабатывать новые методы и архитектуры для улучшения языковых моделей и глубокого обучения. Бурное развитие нейросетей продолжает стимулировать область искусственного интеллекта и машинного обучения.