LaTeX для статей з машинного навчання без плутанини в позначеннях
Аркуші позначень, таблиці абляцій, алгоритми, рисунки з навчальних запусків і Git поруч зі статтею від першої чернетки на arXiv до фінальної версії для друку.
Більшість статей з ML у LaTeX хворіють однаково: на третій сторінці математика
в порядку, а на дванадцятій вона вже суперечить сама собі. Функція втрат у
одному розділі — L, в іншому — \mathcal{L}, а жирні вектори з’являються
лише тоді, коли автор про них згадав. Рецензенти це помічають, навіть коли не
коментують.
Це практичний посібник для студентів, які пишуть статті для воркшопів, подання на конференції та розділи дисертацій, що мають спільне коріння з навчальним кодом.
Заведіть аркуш позначень першого ж дня
Перш ніж писати огляд літератури, напишіть двадцять рядків макросів:
\newcommand{\vect}[1]{\boldsymbol{#1}}\newcommand{\mat}[1]{\mathbf{#1}}\DeclareMathOperator*{\argmax}{arg\,max}\newcommand{\loss}{\mathcal{L}}\newcommand{\expect}{\mathbb{E}}\newcommand{\kl}{\mathrm{KL}}Вставте цей блок у гілку кожного співавтора. Коли модель вигадує новий символ, спершу додайте його в аркуш, а тоді користуйтеся ним. Така сама ідея в уроці про те, як змусити ШІ дотримуватися позначень, лише з мовною моделлю в циклі: модель мусить слухатися аркуша, а не вигадувати шрифти.
Живий перегляд математики в редакторі для досліджень допомагає помітити, що
\mathcal{L} і L — не один і той самий об’єкт, ще поки ви друкуєте.
Таблиці, які переживуть фінальну версію
Таблиці абляцій розростаються, поки не вилізуть зі сторінки. Віддавайте
перевагу booktabs без вертикальних ліній, siunitx для вирівняних десяткових
знаків і підписам, де вказано метрику та розбиття (ImageNet, CIFAR, у домені чи
поза доменом, OOD). Якщо таблиця займає кілька сторінок, переходьте на
longtable завчасно, а не зменшуйте шрифт до 7 пунктів.
Для першої чернетки зручний візуальний конструктор: генератор таблиць працює в браузері. Фінальна таблиця все одно має називати метрику в підписі й пояснювати, що ± означає: стандартне відхилення чи стандартну похибку.
Якщо видання дозволяє, наводьте значення seed та діапазони гіперпараметрів у таблицях у додатку. Основні таблиці мають лишатися зручними для побіжного перегляду.
Алгоритми та лістинги
Псевдокод слід оформлювати в algorithm2e або algorithmicx, а не абзацом
моноширинного тексту. Справжні фрагменти навчального коду мають бути в
listings або minted із заданою мовою, щоб рецензенти могли пробігти їх очима.
Основну статтю тримайте короткою; повні конфігурації виносьте в додаток або в
посилання на репозиторій із хешем коміту.
\begin{algorithm}\caption{Training step}\label{alg:step}...\end{algorithm}Нумеруйте алгоритми, на які посилаєтеся. Не вставляйте в PDF п’ять сторінок PyTorch.
Рисунки з TensorBoard і matplotlib
Експортуйте у PDF або SVG, коли це можливо. Растрові PNG у 300 dpi підходять
для знімків інтерфейсу, але не для графіків-ліній. Обрізайте порожнє місце до
\includegraphics. Якщо плаваючий об’єкт тікає до наступного розділу,
виправте розмір і розташування, перш ніж годину боротися з [H]:
розміщення плаваючих об’єктів.
Багатопанельні абляції: збирайте в TeX через subcaption або компонуйте
зовні й підключайте один PDF. Тримайте для «нашого» методу один і той самий
колір на всіх рисунках, щоб читачі, які лише проглядають, вивчили легенду раз.
Двостовпцеві класи конференцій
Класи в стилі NeurIPS, ICML, ICLR і CVPR змінюють поля та правила для плаваючих об’єктів. Компілюйте з офіційним класом якомога раніше. Ліміти сторінок реальні; не стискайте шрифти. Доведення та додаткові абляції переносьте в додаток або в додатковий PDF, якщо оголошення дозволяє.
Огляд літератури та цитування
Користуйтеся стабільними ключами цитування й чистими експортами зі Scholar.
Перевіряйте .bib: валідатор BibTeX. Цитуйте код і
набори даних, від яких залежите. «Автор-рік» чи числовий стиль залежить від
видання; користуйтеся стилем шаблону, а не гібридом.
Git поруч зі статтею
Кожна зміна архітектури має бути комітом, який ви можете назвати. Ставтеся до статті й коду як до одного проєкту, а не двох окремих звичок резервного копіювання.
Oleafly (відкривається в новій вкладці) тримає статтю в справжньому репозиторії Git поруч із редактором, що розуміє проєкт: живий перегляд математики, перехресні посилання між файлами, автодоповнення цитувань і PDF із SyncTeX. Це збігається з тим, як уже живе код для ML. Поєднуйте його з шпаргалкою, коли під дедлайн забуваєте синтаксис.
Позначте тегом коміт, що відповідає завантаженню на OpenReview або CMT. Він знадобиться вам під час відповіді рецензентам.
Відповідь рецензентам і фінальна версія
Вікна для відповіді рецензентам короткі. Тримайте окрему гілку або теку для «експериментів для відповіді», щоб не засмічувати вихідники поданого PDF. Фінальна версія часто дозволяє додаткову сторінку; використайте її заради ясності, а не щоб скинути туди кожен невдалий запуск.
Ширший вплив і обмеження
Навіть коли видання вимагає короткий абзац про суспільний вплив чи обмеження, пишіть його простою мовою. LaTeX не врятує розмитий абзац. Негативні результати, за які ви можете відповісти, виносьте в додаток, якщо ліміт основної частини жорсткий, і скажіть в основному тексті, що ви так зробили, щоб рецензенти не вирішили, ніби ви їх приховали.
Перед завантаженням
Перевірте, що аркуш позначень узгоджений між розділами, основні таблиці
читабельні з названими метриками та поясненим ±, а алгоритми й рисунки
згадуються в порядку нумерації. Переконайтеся, що офіційний клас компілюється
в межах ліміту сторінок без злочинів проти шрифтів, .bib чистий, код і дані
процитовано, а для завантаженого PDF записано хеш коміту.
Експерименти з ML і так достатньо шумні. Нехай позначення й таблиці залишаються тихими.