Създайте компактен заглавие, който обхваща ключовите изводи, използвайки максимум 20 думи.

Позиционното кодиране е необходимо за Трансформаторните модели да разберат реда на думите в низ. Поради факта, че трансформаторите обработват входните данни наведнъж и не знаят по природа какво следва, добавянето на позиционна информация гарантира, че моделът може да улови потока и структурата на езика.

Чрез комбинирането на позиционни модели със семантична информация от вгражданията, използвайки синус и косинус функции, трансформаторите могат бързо да извършват задачи като превод, резюмиране и отговаряне на въпроси, като същевременно по-добре разбират контекста.