Беспилотники за рулем

[YuriyVZ]

Сообщение от dg972

Вот по этому в метро рулит машинист, а дублирует его комплекс автоматики, который может без участия человека вести состав

Уже есть города (не в России), где давно нет машинистов в метро, все на автомате.

Сообщение от Hunter73

Вечный вопрос - насколько можно доверять интеллектуальным системам и сколько в них "закладок", которые могут сработать в любой момент

У любой системы могут быть неисправности. Чем неисправность автопилота отличается, от любой другой неисправности в авто (неисправности тормозов, электронной педали газа, круиз-контроля)?

[Hunter73]

Сообщение от YuriyVZ

Уже есть города (не в России), где давно нет машинистов в метро, все на автомате.

Ну метро все таки более безопасно, когда движешься только прямо и служба безопасности просто не подпустит кого-нибудь или чего-нибудь лишнего на путях. А вот автопилот с перемещением в трех мерном пространстве всё таки сложнее сделать.

У любой системы могут быть неисправности. Чем неисправность автопилота отличается, от любой другой неисправности в авто (неисправности тормозов, электронной педали газа, круиз-контроля)?

Ничем кроме сложности, а чем система сложнее, тем она чаще будет ломаться - это аксиома. Тут даже человеческий фактор влияет, вон у нас то датчики на ракето-носитель не той стороной впендюрили, то «Скиапарелли» разбился на Марсе из-за программной ошибки.

---------- Сообщение добавлено в 17:55 ---------- Предыдущее сообщение размещено в 17:53 ----------

Кстати в миллионах строк операционных систем, той же виндовс содержаться тысячи ошибок и они никогда до конца не будут устранены, а поэтому систему(ы) можно назвать ненадежной.

[Modigar]

Сообщение от Hunter73

поэтому систему(ы) можно назвать ненадежной.

Есть операционки, которые рулят АЭС, а там стоимость ошибки очень высока.

[Hunter73]

Сообщение от Modigar

Есть операционки, которые рулят АЭС, а там стоимость ошибки очень высока.

Там все параметры строго контролируются, а системы безопасности дублируются несколько раз, так же есть "защита от дурака", у нас же на дорогах таких защит нет

[alexxprg]

Сообщение от Modigar

Есть операционки, которые рулят АЭС, а там стоимость ошибки очень высока.

Там жёстко прописана зависимость действий от набора входных параметров и осуществлено многократное резервирование. В авто невозможно сделать ни первое (ситуация на дороге слишком сложна для описания её небольшим набором параметров), ни второе (из соображений стоимости и целесообразности).

[Modigar]

Сообщение от alexxprg

В авто невозможно сделать ни первое (ситуация на дороге слишком сложна для описания её небольшим набором параметров), ни второе (из соображений стоимости и целесообразности).

Запчасти с Алиэкспресса все решают. 35$ 4-х ядерный комп, можно на 1000$ зарезервировать аж 30 раз )))

[Modigar]

Сообщение от Hunter73

так же есть "защита от дурака", у нас же на дорогах таких защит нет

А живой водитель как от дурака защитится?

[Hunter73]

Хотя первая же ссылка: В "Росатоме" нашли проблемы с ядром
Сотрудники госкорпорации пожаловались на установленный на АЭС софт

---------- Сообщение добавлено в 19:33 ---------- Предыдущее сообщение размещено в 19:32 ----------

Сообщение от Modigar

А живой водитель как от дурака защитится?

Мы не о живых говорим, а об возможных алгоритмах работы автопилота, предусмотреть всё просто нельзя.

---------- Сообщение добавлено в 19:35 ---------- Предыдущее сообщение размещено в 19:33 ----------

Кстати "защита от дурака" - это просто термин, он гораздо шире. Программисты знают о чём я говорю.

---------- Сообщение добавлено в 19:39 ---------- Предыдущее сообщение размещено в 19:35 ----------

И ещё - в СССР в электронике, да и до сих пор кое где, защиты от дурака не было, подключить все можно было и так и этак, сколько техники сгорело, я сам сжег несколько телевизоров при подключении компьютеров, потому не было ни схем, ни нормальных разъемов.

[Modigar]

Сообщение от Hunter73

Хотя первая же ссылка:

А текст там читали? Нет документации, а не ядро хреновое.
Не знают кто когда и зачем написал, к самой работе претензий нет.

Сообщение от Hunter73

об возможных алгоритмах работы автопилота, предусмотреть всё просто нельзя.

Слышали про такое понятие "нейросети"? Это самообучающиеся алгоритмы, которые, если правильно обучить, то будут выдавать правильный результат даже при незаложенных в них начальных данных.
PS: на прошлой работе участвовал в разработке системы, которая безошибочно определяла, сколько человек лезут через забор, и чем вооружены, без видеонаблюдения.
PPS: мы ее потом обучили, что бы она нам сообщала, когда автобус на обед приезжает. От УАЗиков и грузовиков тоже отличала.

[Hunter73]

Сообщение от Modigar

...
Слышали про такое понятие "нейросети"? Это самообучающиеся алгоритмы, которые, если правильно обучить, то будут выдавать правильный результат даже при незаложенных в них начальных данных.
PS: на прошлой работе участвовал в разработке системы, которая безошибочно определяла, сколько человек лезут через забор, и чем вооружены, без видеонаблюдения.
PPS: мы ее потом обучили, что бы она нам сообщала, когда автобус на обед приезжает. От УАЗиков и грузовиков тоже отличала.

Типично положительная и восхитительная оценка, а если поставить знак минус и задуматься. Система самообучилась и вдруг дала сбой, либо кто-то специально подтолкнул её к сбою в своих интересах, и это уже будет иная логика не доступная человеку. Мы то о своих нейронах, памяти, днк очень мало знаем, кто бы что не писал обратное.

[YuriyVZ]

Сообщение от Hunter73

Ничем кроме сложности, а чем система сложнее, тем она чаще будет ломаться - это аксиома.

Не думаю, что автопилот придет сразу, к нему тоже будем идти постепенно. Но лет через 10-20 наверняка он будет повсеместно. К этому моменту и отладят основные ошибки.

Сообщение от Hunter73

Кстати в миллионах строк операционных систем, той же виндовс содержаться тысячи ошибок и они никогда до конца не будут устранены, а поэтому систему(ы) можно назвать ненадежной.

Несмотря на это, она благополучно используется в критически важных областях (например, АСУ ТП особоопасными производствами), где в результате ошибок может погибнуть куда больше, чем при ДТП.

Сообщение от alexxprg

В авто невозможно сделать ни первое (ситуация на дороге слишком сложна для описания её небольшим набором параметров), ни второе (из соображений стоимости и целесообразности).

Я бы не сказал, что ситуация на дороге настолько сложна в сравнении с некоторыми производствами. Как и говорил, внедряться будет постепенно, сначала на специальных трассах, потом на огороженных магистралях, потом просто на магистралях, а потом и в городах.
Ну, а стоимость, сегодня дорого, завтра дешево, технологии не стоят на месте.

[Modigar]

Сообщение от Hunter73

Типично положительная и восхитительная оценка, а если поставить знак минус и задуматься.

Типичная философия, без толкового анализа предметной области. Примерно тоже самое говорят противники ГМО, хотя сколько человечество не есть курятины, еще никто не закукарекал )))

[alexxprg]

Сообщение от Modigar

Запчасти с Алиэкспресса все решают. 35$ 4-х ядерный комп, можно на 1000$ зарезервировать аж 30 раз )))

Полноценный и качественный лидар, установленный на гугломобиле, стоит $75000. Упрощённая его версия стоит $8000, но, конечно, с исходным не сравнится по качеству и точности. Ну так что там с компом за $35?

Сообщение от Modigar

А живой водитель как от дурака защитится?

Он видит больше неочевидных закономерностей, которые могут помочь в разрешении ситуации. В этом помогает и опыт, и явный анализ своим сознанием того, что он видит, даже если это что-то новое и непредусмотренное.

Сообщение от Modigar

Слышали про такое понятие "нейросети"? Это самообучающиеся алгоритмы, которые, если правильно обучить, то будут выдавать правильный результат

Ничего подобного. Нейросети недетерминированы, вероятностны и сильно зависимы от обучающих выборок. Аналитически невозможно доказать, что на определённых входных данных будет определённый результат. Недавно была чудесная статья на гиктаймс, где с помощью пары прямоугольных наклеек на дорожные знаки прекрасно "обманывали" нейросеть.

[YuriyVZ]

Сообщение от Hunter73

Система самообучилась и вдруг дала сбой, либо кто-то специально подтолкнул её к сбою в своих интересах, и это уже будет иная логика не доступная человеку.

Ну, ошиблась система, что привело к ДТП и что? Этих ДТП все-равно будет меньше, чем при водителе человеке и по мере совершенствования все меньше и меньше. Ну влез кто-то в автопилот и спровоцировал ДТП, но кто мешает ему влезть и повредить тормоза сейчас?

Сообщение от alexxprg

Он видит больше неочевидных закономерностей, которые могут помочь в разрешении ситуации. В этом помогает и опыт, и явный анализ своим сознанием того, что он видит, даже если это что-то новое и непредусмотренное

Примерно тоже самое говорили о невозможности "машине" обыграть человека в шахматы лет 10 назад (уже приводили этот пример выше).
Во внештатных ситуациях человек с еще большей вероятностью примет неверное решение, да и в штатных очень часто попадает в ДТП.

Сообщение от alexxprg

Недавно была чудесная статья на гиктаймс, где с помощью пары прямоугольных наклеек на дорожные знаки прекрасно "обманывали" нейросеть.

Кто написал эту статью, специалист или журналист?

[TolR]

Сообщение от YuriyVZ

...Примерно тоже самое говорили о невозможности "машине" обыграть человека в шахматы лет 10 назад (уже приводили этот пример выше)...

Да я приводил этот пример но в другом контексте... и не пойму что за необходимость удалять посты которые четко по теме из курилки... машина сейчас выигрывает у конкретного гроссмейстера но только если дать ей шанс/время просчитать ходы, а если времени для этого просчета нет, либо недостаточно она проигрывает... а дорога как раз требует правильных реакций без времени на их просчет.

[Modigar]

Сообщение от alexxprg

Полноценный и качественный лидар, установленный на гугломобиле, стоит $75000. Упрощённая его версия стоит $8000, но, конечно, с исходным не сравнится по качеству и точности.

Гугломобиль в отличии от серийных (будущих) моделей самообучается, поэтому ему нужна информация чем точнее, тем лучше.

Сообщение от alexxprg

Он видит больше неочевидных закономерностей, которые могут помочь в разрешении ситуации. В этом помогает и опыт, и явный анализ своим сознанием того, что он видит, даже если это что-то новое и непредусмотренное.

Нейросеть это тоже может делать, весь вопрос в ее качестве.

Сообщение от alexxprg

помощью пары прямоугольных наклеек на дорожные знаки прекрасно "обманывали" нейросеть.

качество сети + качество ее обучения и выдали такой результат.

Я не говорю, что прям щас можно поставить ноут в машину, открутить руль, и самому на заднее сиденье сесть, и оно все само поедет. Но техника и алгоритмы очень быстро развиваются, и тот же гугломобиль идет в правильном направлении, и при таких темпах, лет через 5 он будет ездить не хуже 90% водителей.

[Hunter73]

Природа миллионы лет обкатывает механизмы адаптации жизни к окружающим условиям, а человек возомнил себя "царем", не зная даже своей сути и думает что всё знает как нужно и как не нужно, а это просто бред. Мы лезем на Марс, но не можем навести порядок в своих авгиевых конюшнях. Всё слова, уважаемые, будущее рассудит.

[Modigar]

Сообщение от Hunter73

Природа миллионы лет обкатывает механизмы адаптации жизни к окружающим условиям, а человек возомнил себя "царем", не зная даже своей сути и думает что всё знает как нужно и как не нужно, а это просто бред. Мы лезем на Марс, но не можем навести порядок в своих авгиевых конюшнях.

Только с этим ассоциируется:

[Hunter73]

Сообщение от Modigar

Только с этим ассоциируется:

Да, конечно мы самые умные, бога нет и прочая ... вот только орденов и медалей не видно что-то - не поделитесь ?

[Modigar]

Сообщение от Hunter73

вот только орденов и медалей не видно что-то

Что бы логически рассуждать, обязательно ордена и медали нужны?

Сообщение от Hunter73

конечно мы самые умные, бога нет и прочая

Мои рассуждения основаны на фактах и опыте. Ваш опыт в данной теме что говорит?