Скорость генерации оказалась примерно вдвое выше, чем у iPhone 17 Pro
iPhone 18 Pro показал значительное улучшение производительности при локальном запуске крупных языковых моделей. Энтузиаст Адриен Грондин запустил на самом смартфоне ИИ-модель Bonsai-27B, содержащую 27 миллиардов параметров. В ходе демонстрации скорость генерации оказалась примерно в два раза выше, чем у iPhone 17 Pro.
По мнению энтузиаста, важную роль в этом играет новый процессор Apple A20 Pro. «Новый чип A20 Pro — это настоящая машина», — отметил он.
Напомним, что A20 Pro впервые среди мобильных SoC Apple получил двойной 16-ядерный нейропроцессор. Также была значительно улучшена подсистема памяти: iPhone 18 Pro и iPhone 18 Pro Max оснащены 12 ГБ LPDDR5X с 96-битной шиной и пропускной способностью 115,2 ГБ/с. Высокая скорость памяти особенно критична при запуске крупных языковых моделей непосредственно на устройстве.
В тестировании iPhone 18 Pro полностью локально запускал Bonsai с 27 миллиардов параметров. Обработка запросов происходила прямо на смартфоне, без обращения к облачным серверам.
Источник