>>это был, таки баг, а не фича.
Скорее, неправильно заданные параметры. В новости говорится, что когда экспериментаторы запретили “убивать” оператора, ИИ нарушал связь с ним, чтобы продолжать набивать фраги, то есть выполнять функцию, которую в него вложили. Программисты не учли альтернативного решения поставленной задачи, только и всего
Полагаю, что это фейк. Причем распространяемый с конкретной коммерческой целью – показать мощность ИИ, который якобы “умеет находить альтернативные решения возникших проблем”. В реале всё, увы, не так радужно. ИИ ведет себя как идиот, а подобные вбросы нужны для того, чтобы оправдать капиталовложения в недееспособную (на данный момент) технологию.
Разумеется, рано или поздно её допилят, но на это уйдет много тысяч лямов бабла.
>Причем распространяемый с конкретной коммерческой целью – показать мощность ИИ, который якобы “умеет находить альтернативные решения возникших проблем”.
Учитывая вспышку публикаций про опасность “ИИ”, какое оно умное, перспективное и т.д., выглядит это что таки да – надувают финансовый пузырь.
> Полагаю, что это фейк.
Вполне возможно, но лично мне такая новость не кажется особенно фантастичной =) У боевого дрона не так уж много вариантов действия – полететь сюда, выстрелить туда, и в общем-то, по сути, всё. А современные нейросети уже довольно неплохо умеют креативить. И чем меньше основных опций, тем больше, по идее, вариантов использования каждой должно быть.
Здесь, имхо, вопрос скорее в том, кто и зачем выложил подобную информацию вообще – разве она не должна быть более конфиденциальной?
> Полагаю, что это фейк.
Это не совсем фейк, но опровержение уже вышло. Конечно, по новостным площадкам оно не так широко разошлось.
Col Hamilton admits he ‘mis-spoke’ in his presentation at the FCAS Summit,” the statement reads, “and the ‘rogue AI drone simulation’ was a hypothetical “thought experiment” from outside the military, based on plausible scenarios and likely outcomes rather than an actual USAF real-world simulation.
Суть в чем – никаких испытаний ИИ не было, это сугубо гипотетические рассуждения о том, что ИИ может поступить вот так вот. Американский полковник, выступая перед журналистами, неумышленно (или нет) описал этот мысленный эксперимент так, что журналисты неумышленно (или нет) поняли его так, будто он описывает результаты реальных или виртуальных испытаний.
А. Ну, этот мысленный эксперимент тот самый писатель Днепров, к кому иллюстрация выше (“Полигон”) под сто лет назад осуществил. И Шекли чуть позже. %) Занятно, что Лем, считаемый глубоким мыслителем, предсказывая АИ а-ля современные, ни разу не коснулся мысли о возможности довольно очевидных вот таких про…бов. Во всяком случае, не в СТ и прочих основных вещах. :((
Что самое смешное в этом – это то, что в реале нам для подобных результатов даже АИ не нужен: бюрократические и рыночные системы ИРЛ в своей эволюции вполне приходят именно к таким результатам. ;)) Вся вотэтавот “работа на показатели”.
Дядь Дань, дядь Дань, самоходка экстрасенс после титров и туземцев передолбит, у них же тоже эмоции есть. ИРЛ к ИИ приставлена армия программистов с четкими задачами и ограничениями, а своих желаний у железяки быть не может. Гипотетические рассуждения и мысленные экскременты старперов, это такое, все, что не контролируют и не понимают, так сразу зло. Вот как возьмет злобный калькулятор, как захватит нас всех, так сразу и поработит.
99) Френдлента
Ага. И Страж Птица туда же.
Справедливости ради, у Скайнета были другие мотивы, а здесь, как я понял, для дрона это был, по сути, чисто спорт с набиранием очков %)
Уаххахха! Ну, это победа, ящетаю.
ГОЙДА, товарищи!
Механик, это был, таки баг, а не фича. Хватит уже списывать рукожопость на ИИ.
Эх ма, вот так и починается наше прекрасное далёко)
>>это был, таки баг, а не фича.
Скорее, неправильно заданные параметры. В новости говорится, что когда экспериментаторы запретили “убивать” оператора, ИИ нарушал связь с ним, чтобы продолжать набивать фраги, то есть выполнять функцию, которую в него вложили. Программисты не учли альтернативного решения поставленной задачи, только и всего
> Чиун
Именно так, хотя вообще подобное решение приходит на ум буквально следующей мыслью после “надо запретить дрону убивать оператора” %)
Полагаю, что это фейк. Причем распространяемый с конкретной коммерческой целью – показать мощность ИИ, который якобы “умеет находить альтернативные решения возникших проблем”. В реале всё, увы, не так радужно. ИИ ведет себя как идиот, а подобные вбросы нужны для того, чтобы оправдать капиталовложения в недееспособную (на данный момент) технологию.
Разумеется, рано или поздно её допилят, но на это уйдет много тысяч лямов бабла.
>Причем распространяемый с конкретной коммерческой целью – показать мощность ИИ, который якобы “умеет находить альтернативные решения возникших проблем”.
Учитывая вспышку публикаций про опасность “ИИ”, какое оно умное, перспективное и т.д., выглядит это что таки да – надувают финансовый пузырь.
> Полагаю, что это фейк.
Вполне возможно, но лично мне такая новость не кажется особенно фантастичной =) У боевого дрона не так уж много вариантов действия – полететь сюда, выстрелить туда, и в общем-то, по сути, всё. А современные нейросети уже довольно неплохо умеют креативить. И чем меньше основных опций, тем больше, по идее, вариантов использования каждой должно быть.
Здесь, имхо, вопрос скорее в том, кто и зачем выложил подобную информацию вообще – разве она не должна быть более конфиденциальной?
> Полагаю, что это фейк.
Это не совсем фейк, но опровержение уже вышло. Конечно, по новостным площадкам оно не так широко разошлось.
Col Hamilton admits he ‘mis-spoke’ in his presentation at the FCAS Summit,” the statement reads, “and the ‘rogue AI drone simulation’ was a hypothetical “thought experiment” from outside the military, based on plausible scenarios and likely outcomes rather than an actual USAF real-world simulation.
Суть в чем – никаких испытаний ИИ не было, это сугубо гипотетические рассуждения о том, что ИИ может поступить вот так вот. Американский полковник, выступая перед журналистами, неумышленно (или нет) описал этот мысленный эксперимент так, что журналисты неумышленно (или нет) поняли его так, будто он описывает результаты реальных или виртуальных испытаний.
А. Ну, этот мысленный эксперимент тот самый писатель Днепров, к кому иллюстрация выше (“Полигон”) под сто лет назад осуществил. И Шекли чуть позже. %) Занятно, что Лем, считаемый глубоким мыслителем, предсказывая АИ а-ля современные, ни разу не коснулся мысли о возможности довольно очевидных вот таких про…бов. Во всяком случае, не в СТ и прочих основных вещах. :((
Что самое смешное в этом – это то, что в реале нам для подобных результатов даже АИ не нужен: бюрократические и рыночные системы ИРЛ в своей эволюции вполне приходят именно к таким результатам. ;)) Вся вотэтавот “работа на показатели”.
Противо-воздушные кодексы Аль Эфэсби уже разработаны?
Дядь Дань, дядь Дань, самоходка экстрасенс после титров и туземцев передолбит, у них же тоже эмоции есть. ИРЛ к ИИ приставлена армия программистов с четкими задачами и ограничениями, а своих желаний у железяки быть не может. Гипотетические рассуждения и мысленные экскременты старперов, это такое, все, что не контролируют и не понимают, так сразу зло. Вот как возьмет злобный калькулятор, как захватит нас всех, так сразу и поработит.