Чат-бот отвечает за считанные секунды. Кажется, что это одно, но для того, чтобы этот ответ появился, нужно многое сделать, и большая часть его была создана всего за последние несколько лет. Если вы строите с помощью ИИ, полезно знать, в какой части отрасли вы работаете...
Чат-бот отвечает за считанные секунды. Кажется, что это одно, но для того, чтобы этот ответ появился, нужно многое сделать, и большая часть его была создана всего за последние несколько лет.
Если вы строите с использованием ИИ, полезно знать, к какой части отрасли вы на самом деле прикасаетесь.
Вот как это сочетается: от чипсов до людей.
Вычислить
Все начинается с аппаратного обеспечения: графических процессоров, TPU и центров обработки данных, в которых они размещены. Прямо сейчас сюда поступает огромная сумма денег, и они определяют все, что строится на ее основе, начиная от того, сколько стоит обучение модели, ее запуск и как быстро она отвечает на наши запросы.
Данные
Модели учатся на основе текста, кода, изображений, аудио и отзывов людей. Некоторое время гонка сводилась просто к тому, чтобы получить больше. В наши дни качество имеет не меньшее значение, и вопросы о том, кому принадлежат данные и откуда они взяты, становятся все громче.
Модели фундамента
Основной двигатель. Для обучения требуются триллионы токенов, тысячи чипов, работающих вместе, и быстрая сеть между ними, поэтому стоимость — это большая часть истории. Вот почему лишь несколько лабораторий создают самые крупные из них, а модели с открытым исходным кодом отстают (хорошо известные семейства - Claude, Gemini, GPT, Llama и Mistral).
Для разработчика это л
