Разработка OpenAI может угрожать человечеству:сотрудники били тревогу в закрытом письме

Стало известно о письме исследователей OpenAI руководству компании, в котором те предупреждают о некоем угрожающем человечеству достижении. Сразу после этого письма в OpenAI начались скандалы, а исполнительного директора уволили - на четыре дня.

Что это мы натворили?
Исследователи компании OpenAI незадолго до скандального увольнения и не менее скандального возвращения исполнительного директора компании Сэма Олтмана (Sam Altman), написали совету директоров письмо, в котором утверждалось, что разработчикам удалось сделать некое устрашающее открытие, которое может угрожать человечеству. Об этом сообщает агентство Reuters.

Информация об этом письме всплыла лишь в среду, на следующий день после того, как Олтман триумфально вернулся в свою компанию после «четырехдневного изгнания».



Фото: vecstock / Фотобанк Фрипик
OpenAI, возможно, сделали прорыв, угрожающий человечеству

Более 700 работников OpenAI, в свою очередь, пригрозили перейти в Microsoft, если текущее правление не оставит свои должности в полном составе.

Вот вам Бог, а вот вам двери
Правление компании решило выставить Олтмана за дверь 17 ноября. Основанием стало то, что Олтман, дескать, был «недостаточно честен в своих коммуникациях».

В OpenAI по сути два лидера - Олтман, который служит публичным лицом компании и в значительной степени отвечает за поиск спонсоров и инвесторов, и Илья Суцкевер (Ilya Sutskever), руководящий именно разработками.

По некоторым данным, Олтман считает, что прогресс хорош сам по себе и готов коммерциализировать все, что можно коммерциализировать. Суцкевер же, наоборот, считается сторонником максимально осторожного, консервативного (в позитивном смысле) подхода, когда любой коммерциализации разработки должно предшествовать глубокое изучение возможных последствий.

По данным источников Reuters, конфликт внутри компании зрел давно, и его пиком стало краткосрочное увольнение Олтмана, причем Суцкевер играл в этом значительную роль. Впрочем, он вскоре заявил, что весьма сожалеет о своих действиях и действиях совета директоров. После того, как Олтман вернулся, стало известно о самороспуске и переучреждении совета директоров OpenAI.

Что было в письме
В материале Reuters утверждается, что копию письма правлению от исследователей журналистам получить не удалось, а его предполагаемые авторы на запрос комментария решили не отвечать.

В пресс-службе OpenAI также предпочли отказаться от комментариев. Правда, потом сотрудникам компании было разослано внутреннее письмо, где руководство компании признало существование некоего проекта Q* (или Q-Star).

Некоторые сотрудники OpenAI полагают, что речь идет о проекте общего искусственного интеллекта (artificial general intelligence - AGI).

Обычно под таким интеллектом понимается машина, способная понимать окружающую среду и мир в целом, так же как человек, и обладающая таким же потенциалом, чтобы научиться выполнять самый широкий спектр различных задач.

OpenAI определяет AGI как автономную систему, которая превосходит человека в выполнении большинства экономически значимых задач.

Они действительно сделали это?
Один из источников Reuters из числа сотрудников OpenAI, говоривший на условиях анонимности, новая модель смогла решить определенные «математические проблемы». И хотя машина производила собственно математические вычисления на уровне «учеников начальной школы», однако успешное выполнение и таких тестов вселило в исследователей большой оптимизм в отношении будущего успеха Q*.

«По-видимому, речь шла не только об оптимизме: если изначальное письмо действительно было настолько алармистским, что привело к смене руководства компании, то опасения, вероятно, были чем-то оправданы», - полагает технический директор компании SEQ Алексей Водясов. Он считает, что в любом случае необходимо соблюдать предельную осторожность вне зависимости от того, удалось ли OpenAI реализовать полноценный AGI или речь идет только о каком-то шаге в этом направлении.

Математика - царица всех наук
Исследователи считают математику основным фронтиром генеративных ИИ. На сегодняшний день разработки вроде ChatGPT хорошо справляются с созданием и переводом текстов, статистически предсказывая следующее слово. Как следствие, ответы могут заметно различаться.

Однако что касается математики - где только один ответ на ту или иную задачу будет верным, - тут ИИ приходится демонстрировать способность к расширенному рассуждению по аналогии с человеческим разумом. А в отличие от калькулятора, ИИ должен уметь обобщать, учиться и понимать.

То, что с задачами новый ИИ справился хотя бы на уровне младшеклассника, означает, что открылись новые перспективы. Но исследователи видят в этом и угрозу - ту самую, которая нередко описывается в фантастике: машины приходят к выводу, что люди им больше не нужны и что уничтожение человечества - в их интересах.

В своем письме эксперты также отметили потенциальную угрозу от проекта «ИИ-ученый» внутри OpenAI. Ее существование подтвердили сразу несколько источников. Группа исследовала возможности оптимизировать существующие ИИ-модели, научить их рассуждению и в итоге осуществлять полноценные научные исследования.

Источник https://safe.cnews.ru/news/top/2023-11-28_razrabotka_openai_mozhet_ugrozhat

Появилось видео, снятое изнутри самого мощного ИИ-суперкомпьютера — xAI Colossus
Сейчас там 100 000 ускорителей Nvidia H100
Компания xAI Илона Маска сейчас владеет самым мощным ИИ-суперкомпьютером в мире. И в Сети появилось первое видео, снятое изнутри этой установки.
фото: ServeTheHome
На канале ServeTheHome вышло видео, демонстрирующее суперкомпьютер Colossus внутри. В видео довольно много технических подробностей, но касаются они далеко не всех компонентов.
Дело в том, что видео, как напрямую указано в его описании, спонсировалось компанией Supermicro, поэтому оно касается именно систем этой компании. Многие другие элементы показывать было запрещено.

Colossus выделяется не только своими характеристиками, но и невероятной скоростью постройки. Систему смонтировали всего за 122 дня, что намного быстрее, чем обычно для суперкомпьютеров. На момент записи Colossus располагал 100 000 ускорителей Nvidia H100, но как недавно заявлял Маск, в ближайшее время будут установлены ещё 50 000 таких же карт и 50 000 более новых Nvidia H200.

Источник https://www.ixbt.com/news/2024/10/3...oshnogo-iisuperkompjutera--xai-colossus-.html

Nvidia показала нейронное сжатие текстур: потребление видеопамяти упало почти в 7 раз

================================================== =========================

Nvidia показала на мероприятии GTC 2026 не только, возможно, чрезмерно радикальную технологию масштабирования с использованием искусственного интеллекта DLSS 5, но и в целом обсудила практическое применение решений в области нейронного рендеринга. Эти решения не меняют конвейеры отрисовки и могут применяться в играх.


Источник изображения: Nvidia

DLSS 5 является лишь одной из группы технологий нейронного рендеринга — в её случае машинное обучение применяется только к конечному результату отрисовки. Nvidia также рассказала об интеграции малых нейросетей в сам конвейер рендеринга для декодирования текстур, оценки материалов и как результат сокращения объёмов потребления видеопамяти. По сути, это небольшие нейронные движки, предназначенные для выполнения конкретных задач, а не один финальный фильтр.


При отрисовке демонстрационной сцены Tuscan Wheels нейронное сжатие текстур (NTC) позволило сократить объём потребляемой видеопамяти с 6,5 Гбайт при традиционном сжатии текстур (BCN) до 970 Мбайт. Качество изображения не пострадало: NTC позволило сохранить даже больше деталей, чем привычный алгоритм блочного сжатия. На практике это означает уменьшение размеров установочных файлов, патчей — и увеличение ресурсов видеопамяти на том же графическом процессоре.


Nvidia NTC

Ещё одно интересное направление получило название Neural Materials. Вместо того, чтобы хранить большой объём данных о текстурах и выполнять более сложные вычисления функции отражения (BRDF), инженеры Nvidia предложили сжимать данные о материалах и декодировать их с помощью небольшой нейросети. В ходе демонстрации конфигурацию материалов с 19 каналами удалось сократить до 8, а процесс отрисовки сцены в разрешении 1080p ускорился на величину от 1,4 до 7,7 раза. И это не радикальные изменения в рендеринге, которым напугала общественность технология DLSS 5, а просто более эффективный способ хранения и обработки тех же данных о материалах.

Источник: https://3dnews.ru/1139445/nvidia-pok...pochti-v-7-raz

Чем мощнее ИИ, тем сильнее он «страдает»: исследователи заметили тревожную закономерность
================================================== =============================
подробнее в паралельной ветке на ачате... https://forum.antichat.xyz/showpost....68&postcount=4

В Южной Корее предложили делиться сверхдоходами от ИИ-бума с гражданами


Производители памяти Samsung Electronics и SK Hynix стали главными бенефициарами бума ИИ
В Южной Корее начали обсуждать возможность выплачивать гражданам «дивиденды» за счёт налоговых доходов, которые страна получает на фоне бума искусственного интеллекта. С такой идеей выступил глава президентского политического штаба Ким Ён-бом. По его словам, государство могло бы направлять часть дополнительных налоговых поступлений от компаний — бенефициаров ИИ-бума — на поддержку населения. При этом он отдельно подчеркнул, что речь не идёт о введении нового налога для бизнеса — обсуждается перераспределение уже существующих доходов бюджета.

В Южной Корее предложили делиться сверхдоходами от ИИ-бума с гражданами
Изображение сгенерировано Nano Banana
Заявление вызвало нервную реакцию на южнокорейском рынке. После публикации акции Samsung Electronics и SK Hynix просели примерно на 2–2,5%. Позже снижение частично отыгралось после пояснений, что это личная инициатива Кима, а не официальная позиция правительства. В администрации президента также заявили, что подобный механизм сейчас не рассматривается на государственном уровне.

Идея появилась на фоне стремительного роста прибыли производителей памяти и полупроводников, которые стали одними из главных бенефициаров ИИ-гонки. Аналитики ожидают, что Samsung и SK Hynix могут получить рекордную прибыль благодаря спросу на ИИ-инфраструктуру, а государство — дополнительные налоговые поступления.

По задумке Кима, эти средства можно было бы направлять в специальный фонд для финансирования образования, поддержки молодёжи, предпринимателей, пенсионных программ и культуры.

По сути, Южная Корея предлагает обсудить новый подход к ИИ-экономике: если искусственный интеллект приносит сверхдоходы крупнейшим корпорациям, часть этих денег может возвращаться обществу через государственные программы и выплаты.

Источник https://www.ixbt.com/news/2026/05/13...azhdanami.html

Власти США одобрили продажу ускорителей Nvidia H200 десятку китайских компаний

Накануне визита президента США Дональда Трампа (Donald Trump) в Китай возникла определённая интрига относительно участия в поездке главы и основателя Nvidia Дженсена Хуанга (Jensen Huang), и он в итоге всё же вошёл в состав «пекинского десанта». Власти США ещё до этого одобрили продажу ускорителей H200 десятку китайских компаний, но поставки так и не начались.


Источник изображения: Nvidia

Проблема заключается в том, что китайские власти не только ограничивают импорт американских ускорителей, но и требуют от ведущих китайских разработчиков активнее закупать ускорители местного происхождения, чтобы снизить зависимость от американских технологий. Принципиальное решение о возможности поставок ускорителей H200 с архитектурой Hopper было принято ещё в начале текущего года, но множественные согласования и выдача экспортных лицензий заняли несколько месяцев. Позже американские регуляторы постановили, что закупать H200 для своих нужд смогут Alibaba, Tencent, ByteDance, а также производители серверного оборудования Lenovo и Foxconn. Последняя хоть и является тайваньской компанией, располагает дочерними структурами в Китае и там же собирает часть продукции. Каждому из китайских клиентов Nvidia разрешается приобрести не более 75 000 ускорителей модели H200.

Поскольку глава Nvidia всё же полетел в Пекин вместе с американским президентом, его присутствие в китайской столице связывают с возможными попытками убедить китайскую сторону разрешить местным компаниям закупать ускорители H200, которые являются самыми производительными и современными из тех, что легально предлагаются на рынке КНР. Глава Nvidia оценивает ёмкость китайского рынка ИИ-ускорителей в $50 млрд, но если до введения экспортных ограничений со стороны США доля Nvidia на нём достигала 95 %, то теперь она приблизилась к нулю, по его собственным словам. Американские чиновники утверждают, что именно запрет китайских властей мешает местным компаниям приобретать ускорители H200. Недавние изменения в китайском законодательстве направлены на выявление зависимости от импорта в критически важных отраслях экономики и избавление от неё.

Источник: https://3dnews.ru/1141716/vlasti-ssh...yskih-kompaniy

Китай спрятал 2000 серверов на дне моря: в КНР запустили первый в мире подводный дата-центр на энергии ветра
ИИ уходит под воду

В Китае запущен в коммерческую эксплуатацию первый в мире подводный дата-центр, работающий на энергии морских ветропарков. Объект стоимость 226 млн долларов расположен у побережья Шанхая. Проект, официально запущенный в июне 2025 года и завершенный в октябре 2025 года, на прошлой неделе перешел в полноценную коммерческую эксплуатацию после успешных первоначальных испытаний в феврале.


Изображение сгенерировано Gemini

Дата-центр мощностью 24 МВт размещён на глубине около 35 метров и включает почти 2000 серверов, в том числе с GPU для задач искусственного интеллекта, 5G и обработки больших данных. Ключевая особенность — охлаждение: вместо традиционных систем используется морская вода, которая естественным образом отводит тепло.

Проект интегрирован с офшорными ветряными электростанциями, что обеспечивает его частично возобновляемой энергией и снижает нагрузку на энергосистему.

Однако у технологии есть и сложности: оборудование должно выдерживать давление и коррозию, а обслуживание и замена компонентов под водой значительно сложнее. Поэтому система построена на герметичных модулях и удалённом управлении с высокой степенью резервирования.

Источник https://www.ixbt.com/news/2026/05/18...gii-vetra.html