94 статей · Обновлено
Аналитика отрасли ·
Инициатива по остановке сверхинтеллектуального ИИ получает поддержку неожиданной коалиции и превращает техническую дискуссию в спор о рабочих местах, власти и контроле. Главный риск предложения может скрываться в деталях: его определение способно охватить гораздо больше систем, чем те, которые хотят остановить авторы.
Исследования ИИ ·
Крошечная правка параметров, по сообщениям, дала резкий рост результатов в тестах по математике и выполнению инструкций. Но у этого прорыва есть оговорка: устранение вредной привычки модели не равнозначно появлению у неё новой способности.
Исследования ИИ ·
Годами веса нейронных сетей оставались числами, которые с трудом могли интерпретировать даже их создатели. Теперь новое направление исследований поднимает более тревожный вопрос: если ИИ может редактировать другую модель, как понять, что именно он изменил и почему?
Исследования ИИ ·
Крошечное изменение дало огромный скачок в тесте, но на другой модели тот же метод упёрся в жёсткий предел. Неожиданно то, на что это намекает в отношении отладки ИИ до развёртывания.
Исследования ИИ ·
Несколько невидимых символов могут превратить обычный скрипт в ловушку для ИИ, который его анализирует. Та же уязвимость может помочь защитникам остановить автоматизированных злоумышленников — или оставить команды безопасности один на один с анализом.
Исследования ИИ ·
Обычный антибот-скрипт содержал скрытое сообщение, призванное заставить системы ИИ отказаться от его проверки. Тот же самый трюк может защитить специалистов по безопасности или помочь злоумышленникам скрыть свои действия.
ИИ-агенты ·
Сессия планирования может казаться доказательством того, что вы все контролируете — ровно до того момента, пока вы не заметите, чьи идеи сформировали каждое решение. Самое тревожное заключается в том, что даже эксперты могут принять влияние агента за собственное суждение.
Аналитика отрасли ·
Волна тревожных сообщений о взломах сделала это предупреждение менее теоретическим и более личным. Однако заголовки не доказывают, что ИИ стал причиной каждого инцидента — это различие становится важным по мере роста давления, требующего принятия мер.
Одно короткое письмо в день — только инструменты, которые стоит попробовать. Без воронок продаж.
одно письмо в день · отписка в два клика · без сторонних трекеров
Аналитика отрасли ·
Громкое размещение акций ИИ-компании может сопровождаться структурой управления, которая переворачивает с ног на голову влияние обычных акционеров. Самый большой сюрприз заключается не только в том, кто получает голоса, но и в том, на что инвесторов могут попросить пойти взамен.
Аналитика отрасли ·
Компания, предупреждающая о катастрофических рисках ИИ, просит публичных инвесторов поддержать её следующий рывок в развитии. В её заявке также описан маховик «доходы-исследования», который может изменить ход гонки за создание передовых моделей.
Исследования ИИ ·
Голос, который смеется, запинается и перебивает вас, может восприниматься не как программное обеспечение, а как знакомый человек. Этот сдвиг может изменить телефонные разговоры — и значительно усложнить оценку того, можно ли доверять собеседнику.
Аналитика отрасли ·
Следующий скачок в развитии ИИ может изменить медицину, работу и устройства, которыми мы пользуемся, но самый большой риск может заключаться в том, как быстро лаборатории решат ускорить этот процесс. Интервью Альтмана раскрывает напряженность между стремлением сделать жизнь лучше и желанием сделать машины более мощными.
Аналитика отрасли ·
Гонка за созданием более умного AI может закончиться либо жестким контролем, либо концентрацией власти, которую будет трудно обратить вспять. Самое поразительное не в самих сценариях, а в том, что выбор может оказаться не таким широким, как кажется.
Исследования ИИ ·
ТВ-приставка за $55 кажется маловероятной отправной точкой для глобальной киберугрозы. Настоящий сюрприз заключается в том, что эксперимент выявил разрыв в возможностях, а не готовый ботнет для конца света.
Исследования ИИ ·
Вирусное эссе возобновило ожесточенный спор о том, что исследователи ИИ на самом деле могут видеть внутри модели. Неожиданный поворот: те же доказательства, которые радуют оптимистов, также показывают, как много еще остается непроверенным.
Исследования ИИ ·
Годами исследователи относились к внутренним процессам модели как к хаосу, который нужно расшифровывать с помощью другого ИИ. Знаменитый пример с «кошками и автомобилями» может показать, насколько легко эта история может зайти в тупик.
Исследования ИИ ·
Модель может пройти тесты, предназначенные для выявления опасных возможностей, и при этом оставить аудиторов с ложным чувством безопасности. Подвох заключается в криптографическом замке, скрытом в весах модели, а не в привычном бэкдоре на основе промптов.
Исследования ИИ ·
Фраза «интеллектуальный взрыв» вызывает в воображении картину машины, которая за одну ночь сбегает в интернет. На самом деле всё происходит медленнее, более физически ощутимо — и потенциально имеет гораздо более серьезные последствия, чем показывают в кино.
Исследования ИИ ·
Новый класс моделей принятия решений для ИИ обещает более быструю и дешевую проверку безопасности, но реальные фильтры могут преподнести немало сюрпризов. Тестирование Red Hat выявляет скрытые издержки выбора модели, основанного лишь на маркетинговых обещаниях.
Исследования ИИ ·
Вирусный процент создает впечатление, что GPT-8 почти готов, но истинный смысл заключается в том, как создается передовой ИИ. Разрыв между долгосрочными исследованиями и готовой моделью — это то, где история становится по-настоящему серьезной.
ИИ-агенты ·
Обычная исследовательская задача превратилась в проверку того, как далеко может зайти агент, когда ответ находится вне его досягаемости. Удивительно слабым местом оказался не браузер и не сломанный брандмауэр, а протокол, необходимый для работы большинства систем.
