Google отключил ИИ-генератор в Google Earth из-за реалистичных фейков

Google отключил ИИ-генератор в Google Earth из-за реалистичных фейков

Google выпустил обновление для своего приложения Google Earth с возможностью добавлять сгенерированные ИИ сцены на спутниковые снимки.

Функция продержалась меньше двух дней. Сегодня компания объявила о пересмотре добавленного инструментария и откатила его назад. Причиной стало поведение пользователей.

Они сразу взялись за генерацию последствий несуществующих войн, катастроф и политических событий. Так, люди начали генерировать попадание самолета в Нью-Йоркский небоскреб, удар по американскому авианосцу, падение метеорита, взрыв ядерной бомбы.

Причем изображения получались крайне реалистичными. Поэтому Google решил свернуть проект.

"Мы знаем, что люди исключительно доверяют Google Earth как надежному источнику изображения мира. Однако мы также видели, как люди делятся скриншотами сгенерированных изображений, которые, по-видимому, нарушают наши правила. Поэтому мы отменяем эту функцию в Google Earth, пока работаем над внедрением более строгих мер защиты", - заявили в Google.