Скачать: Риск исчезновения ИИ и угроза биологического оружия

Это сегодняшний выпуск Загрузка, наш информационный бюллетень по будням, в котором ежедневно рассказывается о том, что происходит в мире технологий.

Может ли ИИ действительно убить нас всех? Ваши вопросы, ответы

В среду, Обзор технологий Массачусетского технологического института провела живое мероприятие «Круглые столы», в ходе которого был задан вопрос, который, кажется, многие сейчас задают: может ли ИИ действительно убить нас всех? Но у участников было больше вопросов, чем мы успели ответить, поэтому мы попросили старшего редактора по искусственному интеллекту Уилла Дугласа Хэвена и репортера по искусственному интеллекту Грейс Хакинс ответить на некоторые из лучших.

Вопросы, на которые они пытались ответить, включают: умру ли я? Почему ИИ должен нас убивать, если вообще должен? Действительно ли искусственный интеллект опасен или это всего лишь пиар технологических компаний? И какие шаги можно предпринять, чтобы обеспечить эффективный контроль, мониторинг и регулирование ИИ?

Вот их ответы.

—Уилл Дуглас Хэвен и Грейс Хакинс

Призрак биологического оружия на базе искусственного интеллекта является тревожным сигналом для биотехнологий.

Один из способов, которым ИИ потенциально может нанести катастрофический вред, — это помощь в разработке и создании биологического оружия. В 2022 году исследователи обнаружили, что это было удивительно легко сделать с помощью «генератора молекул» искусственного интеллекта, созданного для разработки лекарств. Менее чем за шесть часов модель создала 40 000 молекул, которые могли бы служить боевыми отравляющими веществами.

Сегодня инструменты искусственного интеллекта могут отвечать на вопросы практически во всех областях науки, а достижения в редактировании генов и синтетической биологии сделали биотехнологические инструменты более доступными. Защитные меры есть, но они не являются железными. Однако ученые расходятся во мнениях относительно того, насколько серьезен риск.

Узнайте, почему создавать патогены-убийцы стало проще, чем когда-либо.

— Джессика Хамзелу

Этот история из The Checkup, нашего еженедельного информационного бюллетеня по биотехнологиям. Зарегистрироваться чтобы получать его на свой почтовый ящик каждый четверг.

Роль космонавта постоянно меняется

Мы отправляемся в космос ради геополитического престижа, воплощения судьбы, духовного удовлетворения, научного любопытства и, во все большей степени, деловых возможностей. После «Артемиды II» множество новых книг предполагают, что эти оправдания объединены одним объединяющим фактом: у людей чешутся ноги, и мы просто созданы для того, чтобы бродить.

В Эффект УльтравьюКосмический антрополог Дина Л. Вейбель рассматривает освоение человеком космоса как часть нашей потребности совершать паломничества. В Сердце для космосаГражданский астронавт Эйман Джахангир рассказывает об одном таком путешествии с Blue Origin. И в Ужин с космонавтомБывший астронавт НАСА Лерой Чиао утверждает, что людям просто «нужно знать, что находится на другой стороне».

Посмотрите, что эти три новые книги говорят о том, почему мы отправляемся в космос.

—Бекки Феррейра

Эта история из нашего последнего печатного журнала, посвященного детям. Подпишитесь сейчас чтобы получать каждый выпуск, когда он выходит.

Обязательно к прочтению

Я прочесала Интернет, чтобы найти для вас самые забавные/важные/страшные/увлекательные истории о технологиях на сегодняшний день.

1 Сотрудники Microsoft и OpenAI говорят, что ИИ разрушает Интернет
Каннибализация кликов с веб-сайтов уничтожает бизнес-модели, которые обеспечивают поступление свежего контента. (404 Медиа)
+ Сотрудники выразили обеспокоенность тем, что издатели не смогут пережить парсинг ИИ. (Нью-Йорк Таймс $)
+ Комментарии появились во время дела NYT об авторских правах. (WP $)
+ Они могут ослабить защиту OpenAI и Microsoft. (Рейтер $)
+ ИИ означает конец интернет-поиска в том виде, в котором мы его знали. (Обзор технологий MIT)

Два роботизированных катера впервые сразились друг с другом
Украинское судно потопило в бою российское. (Новый учёный $)
+ Фирмы США создают боеспособных гуманоидов. (WSJ $)

3 исследователя безопасности взломали OpenAI с помощью инструментов Anthropic
Они добрались до учетной записи ChatGPT и внутреннего кода сотрудника. (Фут.$)
+ Они использовали сторонний форум для доступа к внутренним системам. (WSJ $)

4 Сообщается, что OpenAI вскоре планирует решить еще одну известную математическую задачу.
Но сможет ли оно избежать еще одной негативной реакции при объявлении об этом? (Информация $)
+ Проблема, которую он призван решить, — это гипотеза Ходжа. (Гизмодо)
+ Математические споры OpenAI содержат подсказки о будущем этой области. (Обзор технологий MIT)

5 SpaceXAI Илона Маска хочет покупать данные у неудачных стартапов
Он ищет новые источники данных для обучения Грока. (Блумберг $
+ И это нацелено на клиентские и операционные данные. (Гизмодо)
+ OpenAI платит за создание новых биологических данных. (Обзор технологий MIT)

6 школ сопротивляются захвату классов крупными технологическими компаниями
ИИ усиливает обеспокоенность по поводу корпоративного влияния. (Житель Нью-Йорка, $)
+ Нам необходимо более разумное использование ИИ в школах. (Обзор технологий MIT)

7 хакеров раскрыли, как камеры Flock отслеживают автомобили и людей
Одна камера сделала 1,6 миллиона изображений 50 000 автомобилей. (Проводное, $)
+ Камеры также обнаруживают людей и ошибочно распознают объекты. (404 Медиа)

8 китайских фирм удвоили усилия в области науки после технологических ограничений США
Они выдали на 72% больше патентов со ссылкой на научные работы. (Природа)

9. Рак у трехлетнего ребенка исчез после экспериментальной клеточной терапии
CAR T-терапия, наконец, сможет лечить солидные опухоли. (Гизмодо)

10 новых роботов-туалетов Нью-Йорка вышвырнут вас через 10 минут
Двери автоматически открываются, когда таймер истекает. (Быстрая компания)

Цитата дня

«Крупнейшая кража рабочей силы в истории человечества».

— Директор Microsoft по прикладным наукам Брент Хехт выражает обеспокоенность по поводу обучающих данных, используемых для систем искусственного интеллекта, в комментариях, представленных в судебных материалах по иску о нарушении авторских прав New York Times против OpenAI.

Еще одна вещь

Обсерватория Веры К. Рубин готова изменить наше понимание космоса

Высоко на вершине 2700-метровой горы Серро-Пачон в Чили воздух чистый и сухой, и лишь немногие облака закрывают прекрасный вид на звезды. Именно здесь обсерватория Веры К. Рубин использует 3200-мегапиксельную цифровую камеру размером с автомобиль — самую большую из когда-либо созданных — для создания новой карты всего ночного неба каждые три дня.

Генерируя 20 терабайт данных за ночь, Рубин сможет зафиксировать мелкие детали Солнечной системы, Млечного Пути и крупномасштабной структуры космоса. За 10 лет он каталогизирует миллиарды новых объектов, предлагая беспрецедентный взгляд на то, что меняется во Вселенной.

Зайдите в обсерваторию и нарисуйте карту космоса так, как мы никогда раньше не видели.

— Адам Манн

У нас все еще могут быть хорошие вещи

Место для комфорта, веселья и развлечений, которое скрасит ваш день. (Есть идеи? Напишите мне.)

+ Собака Шерри стала мамой любому котенку, у которого нет матери.
+ Эти семь жизненных уроков от короля головоломок Уилла Шортца выходят далеко за рамки кроссвордов.
+ Слушайте «Stairway to Heaven» в совершенно новом свете: древняя японская придворная музыка сочетается с эпическим роком.
+ Взгляните на великолепные снимки, получившие главные призы конкурса «Астрономический фотограф года».