Известный инсайдер Марк Гурман сообщает, что новые функции искусственного интеллекта в iPhone на iOS 18 будут работать полностью на основе собственной большой языковой модели (LLM), разработанной Apple. Эта языковая модель будет "жить" непосредственно в устройствах пользователей, а не на серверах.
Большие языковые модели, работающие сразу на устройствах, могут похвастаться быстротой обработки запроса, но они однозначно уступают мощностям моделям, работающим на огромных серверных фермах, с десятками миллиардов параметров и постоянно обновляемыми данными.
Однако инженеры Apple, вероятно, могут воспользоваться преимуществами полной вертикальной интеграции своих платформ с программным обеспечением, настроенным на чипы Apple внутри устройства.
Хотя локальные LLM могут не иметь такой богатой базы знаний, как ChatGPT, чтобы отвечать на вопросы о всяких случайных мелочах, их можно настроить так, чтобы они были очень эффективны в интересующем конкретном пользователе.
Также еще один большой плюс – это конфиденциальность. Нет ничего плохого в том, чтобы ИИ обработал все электронные письма и текстовые сообщения через модель на устройстве, поскольку данные остаются локальными.
Модели на устройстве могут также выполнять задачи генеративного ИИ, такие как создание документов или изображений, на основе подсказок, с достойным результатом.
Вероятно, Apple представит свою наработку на конференции WWDC в июне.