Про спамботов и защиту от них

Обсуждение всего остального, не попадающего в тематику других разделов
Сообщение
Автор
iad
Сообщения: 7940
Зарегистрирован: 27 июл 2010, 14:32

Re: Про спамботов и защиту от них

#201 Сообщение iad » 04 мар 2016, 16:24

Гидр писал(а):
iad писал(а): 3. Первые три дня (в общем некий период контроля перса) после регистрации персонажу дают создать не более 5 сообщений в день в существующих темах,
а создание новых тем запрещено. И только на 4-ый день дается возможность полного доступа с разрешением создавать темы

Таким образом, без всяких капчей многоуровневая эшелонированная защита не даст засирать форум спамом.
Не соглашусь. Таким образом мы отсекаем себя от свежих проблем и объявлений о продаже-дарении и т.п. - необходимо разрешить создание 1 темы в течении каждых 24часов первые 3 дня, думаю боты спалятся на первой же теме - боты не читают правила и автоматом самовыявятся.
В общем, механизм лимитирования по количеству созданий тем и сообщений в первичный зародышевый период вполне рабочий.
Все люди являются носителями интеллекта, но большинство бессимптомно.
Мыслить трудно, поэтому люди стремятся судить тех, кто мыслит…
Нужно работать не восемь часов в сутки, а головой.

starikov
Сообщения: 2670
Зарегистрирован: 22 сен 2008, 09:30

Re: Про спамботов и защиту от них

#202 Сообщение starikov » 04 мар 2016, 16:46

Гидр писал(а):Не соглашусь. Таким образом мы отсекаем себя от свежих проблем и объявлений о продаже-дарении и т.п. - необходимо разрешить создание 1 темы в течении каждых 24часов первые 3 дня, думаю боты спалятся на первой же теме - боты не читают правила и автоматом самовыявятся.
Если нормальный человек реально хочет стать членом сообщества форумчан - он может и потерпеть зуд в пальцах, а через три дня- велкам :beer: . Еще раз: форум не есть чат, не надо на него залетать, наваливать кучку и линять.

Аватара пользователя
мура
Сообщения: 102461
Зарегистрирован: 01 фев 2009, 14:56
Откуда: Дубна

Re: Про спамботов и защиту от них

#203 Сообщение мура » 27 мар 2016, 11:27

Меньше чем за сутки бот от фраз, вроде «Привет, мир!» и «Все люди классные» перешел к откровенно нацистским и расистским высказываниям, начал обильно употреблять нецензурную лексику и писать откровенные посты порнографического характера с инцестуальным подтекстом.

Естественно, ситуация оказалась неприятной. «Майкрософт» отключил бота, стер большую часть его высказываний, но остались скриншоты. Конечно, можно винить алгоритмы обучения, несовершенство самой системы и недальновидность компании и программистов, невозможно не увидеть во всей ситуации некоторую анекдотичность, но Тау ярко продемонстрировала одну фундаментальную черту, свойственную всем искусственным интеллектам: они — лишь зеркало. Искусственному интеллекту — особенно нейросетям, которые учатся поведению, перерабатывая огромные массивы информации и повторяя их — нужна отправная точка, откуда он начинает свое развитие. И ее он может получить только от нас. Другого пути нет.

Конечно, в случае с Тау надо помнить, что процесс ее изменения был не пассивным. Она не просто находилась в Твиттере и слушала человеческие разговоры вокруг. О ней было объявлено достаточно широко, было немало статей в прессе, и пранкеры действительно решили посмотреть, смогут ли они научить бота быть расистом, и сколько времени на это понадобится.
Поведение Тау, таким образом, это не отражение реального человеческого поведения, а скорее последствие действий тех людей, которые ради веселья решили проверить систему на прочность в ту же секунду, как у них появился такой шанс. То есть зеркало в этом случае показывало не наше реальное отражение, а те гримасы, которые мы корчили в него ради хохмы. И, возможно, это в каком-то смысле хуже.

Тау не может понять, что конкретно она говорит, понятия расизма, нацизма или инцеста для бота не имеют того значения, что они имеют для людей. И когда искусственный интеллект в твиттере начинает ругаться, называть себя «плохим грязным роботом» или говорить, что «геноцид — это забавно», кому-то это может показаться смешным. Но все меняется, если представить, что подобные фразы будут принадлежать какой-то большой системе искусственного интеллекта. А исследования в области искусственного интеллекта за последнее время невероятно ускорились, приняв во многом лавинообразный характер, который уже явно будет крайне сложно, если вообще возможно, не то что остановить, но даже замедлить.

Интеллект AlphaGo победил человеческих чемпионов по игре в го, хотя еще недавно специалисты говорили, что это будет возможно лишь через несколько десятилетий. Компания «Хитачи» запустила искусственный интеллект, который управляет живым персоналом, и тот, работая в качестве директора, сразу увеличил производительность предприятия на 8%. Искусственный интеллект «IBM Watson» помогает врачам в клинике устанавливать диагнозы и прописывать лекарства, а также ищет новые способы лечения рака легких у людей и оказывает психологическую поддержку военным после демобилизации, облегчая им жизнь на «гражданке». Чатбот Xiaoice (по сути, в некотором смысле родственник Тау, также созданный «Майкрософт» и пользующийся огромной популярностью в Китае) первым из роботов официально получил работу, ведет прогноз погоды на телеканале, а также помогает людям справиться с депрессией после того, как их любовные ожидания потерпели неудачу. В Японии роман, написанный при помощи искусственного интеллекта, прошел отбор в первый тур литературного конкурса.

Как ни странно, но возможности искусственного интеллекта растут быстрее, чем мы думаем. И когда появится следующая мощная система с совершенно новыми возможностями, прежде всего, она посмотрит на людей. И если люди, или же просто группа пранкеров или Интернет-троллей, начнет ради смеха кричать и писать ей, что «люди ужасны, лол», вот именно «лол» искусственный интеллект может не понять, а шутки — не оценить.

Контрапунктек
Сообщения: 575
Зарегистрирован: 10 дек 2015, 04:12

Re: Про спамботов и защиту от них

#204 Сообщение Контрапунктек » 27 мар 2016, 16:01

мура писал(а):... исследования в области искусственного интеллекта за последнее время невероятно ускорились, приняв во многом лавинообразный характер, который уже явно будет крайне сложно, если вообще возможно, не то что остановить, но даже замедлить...
Да нет, всё более-менее ровно идет. Просто у некоторых ведущих теоретиков данного направления заканчиваются длинные гранты, и вот тут внезапно появляются новые громкие термины и слоганы. Вчера был Multi-Variate Analysis. Сегодня это Deep Learning. Завтра еще что-нибудь... Пока не прорыв, а текучка. А вот компьютерные мощности растут сильно. И тот вчерашний неуклюжий бот с парой сотен заготовленных фраз сегодня обладает мгновенным доступом к базе в миллиарды фраз и сотни тысяч интонаций. Из-за чисто технического улучшения создается впечатление что они резко поумнели, да.

Ответить

Вернуться в «Не флейм»