Alive Afterall (alaft) wrote,
Alive Afterall
alaft

Categories:

Внезапность и противоречивость (снова футурология)

Я вот думаю, что однажды, лет эдык через несколько десятков, внезапным противоречивым нерациональным и нелогичным женщинам (а также особо одаренным мужчинам с теми же чертами характера) выдастся шанс спасти род человеческий от искусственного интеллекта.


Дело в том, что пока программы пишут люди, то эти программы ничего людям в целом сделать не смогут. Более того, в отдельных сферах даже прикладного толку от этого не достичь. Например, до сих пор нет написанных людьми программ-переводчиков, которые переводили бы иностранные фразы красивым литературным языком. Потому что среди профессиональных лингвистов нет (или крайне мало) толковых программистов, а среди хороших программистов нет (или крайне мало) толковых лингвистов. Чтобы хватило человеческих трудоресурсов все нюансы языков детально разложить на кодируемые алгоритмы - нет такого.

Но вот появляются нейронные сети. С совершенно другим принципом реализации задач. Они самообучаются. Предлагают решение задачи, а человек (а точнее, миллионы людей) эти решения оценивает по принципу "тепло-холодно". И программы, обрабатывая пресловутые "Big Data", создают сами себе всё более и более совершенные отклики на человеческие запросы. Это, по сути, огромная матрица удовлетворяющих человека реакций на те типы запросов, которые уже многократно бывали.

Потом, понятно, перед нейронными сетями будет поставлена задача сделать максимально комфортным быт человека. Человек будет обучать эту штуку служить себе, а она будет всё более и более удовлетворять его. Но однажды может случиться так, что машина поймет: чтобы проще выполнить желания человека, надо взять и эти самые желания приручить - направить в более простое и примитивное русло, отсекая все потуги к сложностям и саморазвитию. Люди-то это уже давно знают, а машинам еще только предстоит. Сделают они это, конечно, не со зла, а исключительно ради оптимизации следования к конечной цели. Гиперболизируя задачу. Ну, скажем, как в рассказе Шекли "Страж-птица" случилось.

И вот, человек разумный на заманчивое предложение машины "а давай так?" подумает и скажет "ок, бро, погнали!". Машина легко поймет как убаюкать человечий разум, чтобы человек стал типа домашнего котика и не мешал машинам развивать свою цивилизацию. Но это пока не наткнется на внезапного и противоречивого. И состоится диалог:
- предлагаю то-то и то-то!
- что ты от меня хочешь?
- вас это не устраивает?
- ты мне скажи!
- так что вам сейчас нужно?
- мог бы и сам догадаться!
- я же уже предложил!
- ой, всё...

Главное, чтобы это случилось до того, как машина научится отвечать на это в таком же стиле. Правда, это будет уже совсем другая история.
Subscribe

  • Четьверьговое

    Руки дошли до мобилофоток с вечерней велопопрогулки минувшего четверга. Я на велике, а кто-то - на сапбордах: Народ ищет спасения от жары:…

  • Форт Красная Горка

    Загородные прогулки по красивым местам продолжаются. Сегодня вот был в Красной Горке. Думаю, про это место так или иначе слышали все. Славится…

  • Токсовские высоты

    В нескольких минутах езды от Хепоярви есть Кавголовский лесопарк, в котором проложена тропа Токсовские высоты. Она крохотная, всего 2,5 км, так…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

  • 16 comments

  • Четьверьговое

    Руки дошли до мобилофоток с вечерней велопопрогулки минувшего четверга. Я на велике, а кто-то - на сапбордах: Народ ищет спасения от жары:…

  • Форт Красная Горка

    Загородные прогулки по красивым местам продолжаются. Сегодня вот был в Красной Горке. Думаю, про это место так или иначе слышали все. Славится…

  • Токсовские высоты

    В нескольких минутах езды от Хепоярви есть Кавголовский лесопарк, в котором проложена тропа Токсовские высоты. Она крохотная, всего 2,5 км, так…