Рец. на: Глобальное будущее 2045. Конвергентные технологии (НБИКС) и трансгуманистическая эволюция | | Печать | |
Автор Кудашов В.И., Омельченко Н.В. | |
28.08.2014 г. | |
От редакции. Публикуемые ниже материалы о книге «Глобальное будущее 2045. Конвергентные технологии (НБИКС) и трансгуманистическая эволюция» расходятся в оценке некоторых из представленных в книге идей. Журнал планирует в ближайшее время вернуться к их обсуждению и провести на эту тему «круглый стол».
Глобальное будущее 2045. Конвергентные технологии (НБИКС) и трансгуманистическая эволюция. Под ред. Д.И. Дубровского. М.: ООО «Издательство МБА», 2013. 272 с.
Пожалуй, это первая фундаментальная коллективная монография в нашей стране, посвященная теоретическому осмыслению проблем будущего цивилизации. В книге три раздела, включающих такие проблемы: 1) глобальное будущее, сингулярный рубеж середины века, сценарии развития цивилизации; 2) конвергентные технологии, их роль в преобразовании человека и социума; 3) вопросы трансгуманистической эволюции, анализ и критическое обсуждение ряда концепций трансгуманизма. Сама книга, как отмечает в предисловии Д.И. Дубровский, представляет собой первый шаг в создании обоснованной научной, теоретико-методологической и философской базы Стратегического общественного движения «Россия 2045», на сайте которого www.2045.ru она доступна. Первый раздел «Глобальное будущее» открывается статьей академика В.С. Стёпина «Перелом в цивилизационном развитии. Точки роста новых ценностей». Анализируя тенденции цивилизационного развития, автор выявляет систему базисных ценностей современной техногенной цивилизации в условиях обострения глобальных кризисов и исходит из того, что «эту систему ценностей придется менять, что преодоление глобальных кризисов потребует изменения целей человеческой деятельности и ее этических регулятивов» (с.19). В.С. Стёпин считает, что «у человечества есть шанс найти выход из глобальных кризисов, но для этого придется пройти через эпоху духовной реформации и выработки новой системы ценностей», причем «сегодня это уже не чисто абстрактное занятие, а практическая потребность определить стратегии развития цивилизации», которая «является наиболее вдохновляющей и перспективной задачей для всего комплекса современных социально-гуманитарных наук» (с. 25). А.П. Назаретян в статье «Мировоззренческая перспектива планетарной цивилизации», опираясь на серию независимых расчетов, проведенных учеными разных стран и разных специальностей, доказывает, что «эволюция на Земле вступает в полифуркационную фазу, сопоставимую по масштабу и по значению с появлением жизни. После этого либо начнется нисходящая ветвь планетарной эволюции (последующие изменения в обществе и в природе будут необратимо направлены в сторону термодинамического равновесия), либо произойдет прорыв к какому-то качественно новому состоянию» (с. 26). Но это новое состояние потребует кардинальной перестройки человеческого сознания. Отвечая на свой вопрос: «способно ли в принципе сознание вырваться из тотемно-клановых пут на просторы космически релевантного смыслообразования и успеет ли сознание землян освоить космические смыслы бытия?», А.П. Назаретян не исключает, что «решающей предпосылкой для смены стратегических смысловых координат и атрибуций может быть дальнейшее продвижение в направлении денатурализации носителя интеллекта с симбиотизацией его форм… По мере же того как развивающийся интеллект будет «сбрасывать биологическую оболочку», сам механизм «пристрастной» целеориентированности и творческих мотиваций может решающим образом измениться» (с. 38-39). Как именно изменится человеческое сознание, автор не уточняет, поскольку, по его мнению, «наличный опыт и даже языковые средства недостаточны», ведь «при попытке описать психологические слагаемые оптимального сценария особенно заметно, как с приближением к исторической сингулярности значения слов напрягаются, деформируются и расплываются» (с. 39), и «уже на стадии денатурализации и симбиоза интеллектуальных форм дрейфующие семантические ряды неизбежно попадут в зону языковой турбулентности» (с. 47). Это действительно серьёзная гносеологическая проблема, и её исследование может стать предметом различных философских спекуляций на тему «возможных миров». Сам А.П. Назаретян полагает, что «именно расщепление семантических «сущностей», из которых слагается озвученная или неозвученная тоска по бессмертию, даст шанс сознанию землян (в той или иной субстратной ипостаси) выстроить новые смысловые конфигурации, освобождающие от оков тотемного – идеологического, религиозного – конструирования реальности. Тогда тоскующий по бессмертию Человек окажется эволюционным мостом между Обезьяной и бессмертным Сверхразумом» (с. 48). Е.Г. Гребенщикова в статье «Технологии форсайта: от предсказаний – к конструированию будущего» показывает, что уже сейчас значительно увеличилось число форсайт-проектов, рассматривающих наиболее острые вопросы политики в области здравоохранения и образования, демографии и социального обеспечения, а новый тренд форсайта «проявляется в программах радикальных преобразований человеческой природы, провоцирующих мысли о надвигающемся Большом антропологическом взрыве» (с. 57). В этом контексте наиболее востребованными оказываются практики гуманитарной экспертизы, где обсуждение ответственности за экзистенциальные риски становится точкой роста перспектив самого форсайта. Космонавт-испытатель С.В. Кричевский рассматривает проблемы и перспективы расселения человечества вне Земли, которое он считает сверхзадачей человечества и стратегической целью пилотируемой космонавтики. Аргументы понятны: «неизбежно возникнет проблема выживания, и если Земля будет необратимо деградировать, разрушаться, станет непригодной для жизни людей из-за катастрофических процессов, спасительным сценарием станет только космическая экспансия» (с. 60). Автор указывает на возможности, риски и ограничения процесса расселения, считая, что создание «человека космического» целесообразно начинать на Земле как часть проекта «человека будущего» в русле плана Стратегического общественного движения «Россия 2045» (с. 65). Вряд ли это можно назвать непосредственными проблемами философского теоретизирования, хотя, по нашему мнению, современная философия не может оставаться в стороне от обсуждения таких глобальных сверхзадач. В.Е. Лепский в статье «Проблема сборки субъектов развития в контексте эволюции технологических укладов» описывает некоторые тенденции нарастания угроз в контексте сложившихся представлений о технологических укладах, подчеркивая проблему отстраненности техники и технологий от их этического осмысления. На этом основании автор утверждает, что «в контексте постнеклассической рациональности базовым научным подходом должен выступить трансдисциплинарный подход в его методологической трактовке», а прикладная философия, как специализированное направление философии, «могла бы претендовать на роль ведущей области знания в организации и управлении саморазвивающимися человекоразмерными системами» (с. 78). В.Е. Лепский также уповает на формирование «опережающего седьмого социогуманитарного технологического уклада» как альтернативу двум стратегическим проектам российского государства – «инновационному» и «модернизационному». Оба указанных проекта «носят ярко выраженный технократический характер и не содержат мировоззренческих компонент» и «даже в технократическом контексте они весьма сомнительны», поскольку «догнать развитые страны на технократическом пути развития безнадежно» (с. 79). Поэтому надо не догонять, а опередить и стать лидером технологий следующего поколения, технологий «формирования новых форм жизнедеятельности на планете» и «конструирования социальной реальности» (с. 80). Авторский ориентир привлекателен, особенно философам, ведь «философия должна стать базовой областью знания для формирования социогуманитарных технологий седьмого уклада» (там же), но чрезвычайно абстрактен, что может помешать ему стать реальным праксеологическим императивом. В.Г. Горохов и М. Декер завершают первый раздел статьей «Технологические риски как социальная проблема при разработке и внедрении интеллектуальных автономных роботов», продолжая разговор о возможностях и опасностях новых технологий. Они справедливо замечают, что пока непонятен вопрос о том, «что будет с человеческой психикой после нанотехнологической корректировки тонких нейронных структур или после добавления новых органов чувств, о чем уже пишут как о вполне реализуемом в недалеком будущем проекте» (с. 82). Поэтому более перспективным им «представляется не видоизменение человеком своей собственной природы, а разработка новых автономных вспомогательных устройств, к которым относятся и автономные интеллектуальные роботы» (с. 83).Весьма важной и интересной в этой связи оказывается эпистемологическая проблема исследования языков, «которые бы могли в единой концептуальной структуре выразить новые типы исследуемых и проектируемых систем» (с. 90), что на практике «означает необходимость взаимопонимания и постоянного обмена знаниями различных дисциплинарных групп ученых, вынужденных работать в одной междисциплинарной исследовательской группе над решением единой поставленной перед ними задачи» (с. 91). Действительно, проблема общего языка, понятного всем включенным в развитие конвергентных технологий исследовательским группам, стала уже не только научной, а методологической, поскольку предполагает выход на философский уровень абстракции. Мы согласны с авторами, что современное развитие конвергентных технологий по-новому ставит многие «старые философские проблемы и выдвигает на первый план целый ряд новых методологических, социальных, когнитивных и т.п. проблем, осмысление которых требует высокого философского уровня» (с. 93).Второй раздел книги «Конвергентные технологии» начинается статьей В.И. Аршинова «Конвергентные технологии (НБИКС) и трансгуманистические преобразования в контексте парадигмы сложностности», где рассматриваются взгляды трансгуманистов и их критиков в контексте осмысления процессов конвергенции высоких технологий со всем междисциплинарным комплексом современного социогуманитарного знания. Автор ставит задачу «всячески стимулировать процесс конвергентного расширения практик технокультурной антропологически ориентированной медиации, рекурсивно порождающих гибридные когнитивные интерфейсы между конвергирующими уровнями реальности» (с. 100). Он считает, что «конвергентная междисциплинарная связь нанотехнологии с био-, информационными и особенно когнитивными технологиями с необходимостью выводит нас на проблему их медиативно-сетевого осмысления в контексте интеграции с социогуманитарным знанием, быть может, в рамках программы симметричной антропологии Бруно Латура, или социального конструктивизма в духе Н. Лумана, или современной постфеноменологии техники и технологии» (с. 105).В.В. Чеклецов развивает эти идеи в статье «Гибридная реальность. НБИКС как интерфейс “человек – машина”», заостряя вопрос о границах изменяемого конвергентными технологиями тела. Он считает проблематичным четкое определение этих границ, поскольку они «размываются» в физическом, физиологическом, экологическом, психосенсорном и экзистенциальном измерении. Становление «новой корпоральности» понимается автором в ситуации «растущей тотальной межсвязности, панкоммуникации, техно-социо-культурного размытия границ между цифровым и «материальным» бытием, когда артефакты обретают память, среда учится чувствовать, а материя становится по-настоящему разумной и программируемой» (с. 107). В.В. Чеклецов подчеркивает важность исследования проектируемых интерфейсов «тела – сознания» с новыми эмерджентными технологиями, поскольку именно от них, по его мнению, зависит, какими будем мы и окружающий нас мир уже в не столь отдаленном будущем. Действительно, в Европе, США, Японии и Китае проекты «Интернет вещей» и «Разумная среда» как основные направления гибридной реальности и «панкоммуникации» уже приняты на государственном уровне в качестве приоритетных наравне с конвергентными технологиями из-за их значительных экономических, культурных и политических эффектов. В России эта тема пока остаётся довольно маргинальной, поэтому весьма перспективной выглядит авторская идея наделения атрибутами телесности и сознания специфических социальных пространств в ситуации, когда бездушная и обезличенная среда трансформируется в живое, чувствующее пространство – «тело-ландшафт», Geo Sapiens (см. с. 116). Д.И. Дубровский в статье «Проблема «сознание и мозг»: теоретические и методологические вопросы (в связи с задачами НБИКС-конвергенции)» рассматривает проблему субъективной реальности как объекта нейронаучного исследования, резюмируя некоторые результаты своих работ в контексте давно уже предложенного им «информационного подхода» к теоретическому решению этой проблемы. Его философский подход опирается на современные научные знания о биологической эволюции и о процессах самоорганизации, хотя, к сожалению, до сих пор не получил развернутой и обоснованной критики в философской и научной литературе. Д.И. Дубровский считает, что способность самоорганизующейся системы отображать носитель информации и управлять этим носителем является «условием создания цифровых моделей явлений жизни и психики, их реализации, в конечном итоге, на небиологическом субстрате или в виде гибридных, биоэлектронных самоорганизующихся систем», что открывает «новые возможности преобразования тех генетически обусловленных свойств природы человека и его сознания, которые служат исходной причиной неуклонного углубления экологического кризиса и других глобальных проблем земной цивилизации» (с. 147–148). И хотя теоретически возможны другие варианты преодоления нынешнего кризиса цивилизации и восхождения на её новый этап, нельзя не согласиться с автором, что все они так или иначе «связаны с такими её самопреобразованиями, которые предполагают изменение сознания социального индивида» (с. 149). В статье «К вопросу об обратном конструировании мозга» В.Л. Дунин-Барковский обсуждает возможность построения полноценного искусственного интеллекта. Он избирает «путь детального анализа механизмов функционирования мозга человека и искусственного воспроизведения этих механизмов» (с. 150). Так, в рамках данного проекта сформулирована техническая гипотеза языка (ТГЯ), которая рассматривает функции речи и предлагает их модели. С.Ф. Сергеев в статье «Наука и технология XXI века. Коммуникация и НБИКС-конвергенция» напоминает, что новый технологический уклад порождает множественные угрозы, противодействие которым стало одной из актуальных задач науки. Среди основных источников угроз, носящих глобальный характер, называются и достижения в сфере высоких технологий. Это генная инженерия, нанотехнологии, робототехника, электроника, искусственный интеллект, все, что порождается в рамках НБИКС-конвергенции. Важная роль науки – создание механизмов защиты человечества, в том числе от самого себя (см. с. 161). В настоящее время модель НБИКС-конвергенции воспринимается как основной катализатор техногенной модификации технологической и социальной среды. Эта научная методология сетевого мира базируется на представлениях о материальном единстве природы на наноуровне и интеграции технологий на более высоких уровнях. Акцент авторов данной модели ставится на трансгуманистическом расширении возможностей человека за счет объединения технологий макро- и микромиров, что дает в предполагаемой перспективе достижение бессмертия, изобилия, появление сверхразума. Это основная цель, на достижение которой и сконцентрированы усилия представителей данного направления (см. с. 167). В статье «Информационная целостность человека – предпосылка создания его кибернетического аватара» Ю.М. Сердюков высказывает сомнение в достижении личного бессмертия человека путем создания его кибернетического аватара. Однако при этом отмечается, что объективные предпосылки для постановки и реализации этой цели, несомненно, имеются: одна из них – информационная целостность человека (см. с.169). Возникшая в фило- и онтогенезе информация пронизывает все наше существо – от генотипа до интуиции, и, будучи соответствующим образом упорядоченной, может служить каркасом для создания модели кибернетического двойника человека и ее реализации на небиологических носителях в виде аватара (см. с. 181–183). Третий раздел книги открывается статьей А.Ю. Нестерова «Проблема человека в свете идеологии эволюционного трансгуманизма». В ней отмечается, что в условиях мировоззренческого кризиса задача философии заключается в том, чтобы «сформулировать идеологию Нового Просвещения», примером которой может служить «идеология эволюционного трансгуманизма, предложенная Д.И. Ицковым» (с. 187).Идеология трансгуманизма предполагает «качественное преодоление» границ человеческого, «качественное преобразование» человека средствами современной науки, формулировку «высокой этики постсингулярного этапа развития цивилизации», создание социального субъекта, способного реализовать трансгуманистическую систему ценностей (см. с. 187–188). Вместе с тем А.Ю. Нестеров ожидает появления в будущем не постчеловека как дегуманизированного существа, а неочеловека с известными ценностями – добро, истина, красота, справедливость, любовь, творчество и т.п. Сохраняя свои общие значения, они наполнятся «новым экзистенциально значимым содержанием» (с. 188). Высокие цели эволюционного трансгуманизма определены пафосом стремления к неочеловечеству, где, в частности, станет возможным кибернетическое бессмертие. Статья И.В. Дёмина посвящена обсуждению соотношения гуманизма и трансгуманизма. Здесь автор видит трудность в том, что имеется множество трактовок гуманизма и нет четких представлений о трансгуманизме. Для всех дефиниций трансгуманизма общим знаменателем является идея об изменении или улучшении «человеческой природы». Автор поясняет, что в трансгуманизме человек рассматривается как биологический вид, а под «природой» понимается прежде всего его биологический субстрат. Трансгуманизм ставит перед человечеством сверхзадачу, сверхпроект – преодоление биологической обусловленности человеческого существа, одним из аспектов которого должно стать достижение так называемого кибернетического бессмертия (см. с. 198). По мнению И.В. Дёмина, в настоящее время философская антропология уже не ставит перед собой задачу отыскать сущность человека, т.е. выявить такую его характеристику, которая безусловно и окончательно выделяла бы человека из всего сущего. Человеку невозможно дать сущностное (эссенциалистское) определение, так как присущий человеку способ бытия как раз и заключается в том, чтобы преодолевать всякий предел, всякую определенность, всякую границу. При этом человек понимается как способность к трансцендированию сущностных параметров своей «природы». Тупиковость эссенциализма как метафизического основания мировоззрения новой постиндустриальной эпохи объявляется фактически очевидной. Признаемся, мы не разделяем мнение И.В. Дёмина о том, что чем дольше продолжаются дискуссии о природе (сущности) человека, тем яснее становится несостоятельность эссенциалистского подхода. Обратим внимание на то, что апелляция к «сущностным параметрам» homo sapiens все же сохраняется (как это видно из предлагаемой дефиниции человека), и потому «тупиковость эссенциализма» оказывается сомнительной. Автор хочет оставить человеку одну-единственную характеристику (его способность к трансценденции). Но чтó трансгуманизм станет переделывать, если он изначально отрицает природу, сущность (эссенцию) человека? П.Н. Барышников обсуждает типологию бессмертия в теоретическом поле французского трансгуманизма, который понимается как культурное и интеллектуальное течение, использующее достижения науки и техники для развития физических и ментальных способностей человека. Трансгуманизм затрагивает некоторые аспекты человеческих биологических состояний, таких, как инвалидность, физические страдания, болезнь, старение. При этом смерть рассматривается как нежелательный и бесполезный итог биологической жизни. В статье отмечается, что одной из наиболее острых и неоднозначных проблем в мировом трансгуманистическом сообществе является проблема кибернетического бессмертия, или цифрового иммортализма. Если работа мозга – лишь результат нейронных исчислений, то при возможности моделирования нанообъектов мы сможем перебрать весь физический субстрат личности и сознания до последней составляющей и создать искусственный носитель сознательных актов (см. с. 211, 212). Если функции сознания сводятся к работе мозга, тогда можно надеяться, что «полная эмуляция всех зеттабайтов нейронных процессов приведет к рождению кибернетической личности» (с. 216). В заключение ставится интересный философский вопрос: сохранится ли у постчеловека свобода выбора? Ведь если наука сведет все интенциональные акты сознания и процедуры интроспекции к эпифеноменальному уровню деятельности мозговой материи, то не исключено, что внедрение бионанотранзисторов и прочих управляемых технологических элементов в природу человека позволит создавать программируемую этику. Тогда придется пересмотреть все принципы исторического развития человечества. Р.Р. Белялетдинов в статье «Человек трансгуманистического периода: новые концепции человека в эпоху биотехнологий» отмечает, что наиболее универсальной основой трансгуманистической идеологии является стремление освободить человека от смерти как глобального биологического ограничения. Автор напоминает, что часто против трансгуманизма используется аргумент slippery slope, или «скользкий холм». Этот термин (по смыслу соответствует фразеологизму «катиться по наклонной плоскости») обозначает условия, при которых те или иные отступления от общего этического принципа могут оказаться поводом для более значительных уступок, способных привести к резко негативным последствиям. Кроме того, само внедрение радикальных форм биотехнологического совершенствования способно породить большое количество социальных проблем, так как даст преимущество одним социальным группам над другими. Однако обсуждение этих вопросов крайне важно даже при отсутствии единого понимания того, как именно должна строиться «глобальная концепция человека». Д.И. Дубровский во второй своей статье обсуждает темы природы человека, антропологического кризиса и кибернетического бессмертия. По его мнению, чтобы изменить гибельную траекторию нашей цивилизации, нужно изменить сознание массового человека. Но это равносильно изменению того, что называют природой человека. Она представляет собой комплекс устойчивых свойств социального индивида, которые воспроизводятся во все эпохи и у всех народов, что указывает на их обусловленность биологической организацией человека. Они формируются на основе генетических факторов и варьируют под влиянием внешних условий – физических и социальных. По мнению автора, главный вопрос состоит в том, как изменить негативные свойства природы человека – неуемное потребительство, агрессивность к себе подобным, чрезмерные эгоистические устремления. Все они укоренены в генетической структуре, сформировались в ходе биологической эволюции и антропогенеза (см. с. 238). Непрерывное углубление глобальных проблем нашей цивилизации ясно демонстрирует то, что называют антропологическим кризисом: утрату подлинных смыслов жизни и деятельности человека, возрастание абсурда в личной и общественной жизни. Человечество, считает Д.И. Дубровский, неуклонно движется в тупик, знает это, но не может остановиться в своей самоубийственной деятельности. Будучи социальным существом, человек продолжает действовать как животное, направляя свою колоссальную активность во внешнюю среду. В конечном счете именно биологическая программа человека оказывается источником антропологического кризиса (см. с. 240–242). В этой связи указываются два выхода. Первый связан с изменением биологической природы человека путем реконструкций в его геноме, но он слишком рискован. Второй выход – это путь воплощения разума и социальной индивидуальности в небиологической самоорганизующейся системе, т.е. путь трансгуманистических преобразований. Этот путь предпочтительнее, в частности, потому, что создает перспективу радикального продления жизни вплоть до кибернетического бессмертия и тем самым новую антропологическую перспективу, формирует такую систему смыслов и ценностей, которая расширяет горизонт нашей биологически ограниченной ментальности и духовности, что служит условием преодоления антропологического кризиса. Д.И. Дубровский считает, что мегапроект «кибернетическое бессмертие» нужен не только научному, но и всему нашему обществу, вытесняющему из своего сознания близкую перспективу гибели цивилизации, погрязшему в ненасытном потребительстве, меркантильных расчетах, оттеснившему на задворки души высокие идеи и помыслы, без которых мы видим вокруг себя и часто в себе жалкую недочеловечность. Главный и самый трудный пункт проблемы кибернетического бессмертия – воспроизведение на небиологическом носителе той самоорганизации информационных процессов, которая создает качество субъективной реальности. По мнению Д.И. Дубровского, для реализации трансгуманистических проектов нужен мощный социальный субъект, обладающий решимостью и волей, способный сконцентрировать интеллектуальные, финансовые, организационные, медийные ресурсы и перейти от слов к делу. В заключении раздела помещена статья члена-корр. РАН В.Ф. Петренко «Сознание и проблема контакта с внеземными цивилизациями». Автор полагает, что все-таки тридцатилетний срок со дня сегодняшнего до гипотетической зоны сингулярности (когда приблизительно к 2045 г. кривая скорости эволюции устремится к бесконечности) слишком мал для трансформации человечества в неочеловечество. Одна из возможных гипотез преодоления зоны сингулярности – выход человечества на связь с иными космическими цивилизациями, открывающий поистине безграничные информационные возможности, безграничные сокровища знаний. Но этой гипотезе противоречит «Великое молчание Космоса», отсутствие адресованных человечеству достоверных сигналов «братьев по разуму». Но почему же молчит Космос? По мнению автора статьи, наивно думать, что космические цивилизации находятся примерно на одном уровне своего развития и что они пошлют нам некие сигналы, а земляне успешно их дешифруют. Возможные контакты с представителями космических цивилизаций будут иметь совсем иные формы. Скорее, возможен поиск контактов с внеземными цивилизациями внутри собственной ментальности, в сфере бессознательного, в медитативных трансовых состояниях. Психология и семиотика помогут нам установить такие контакты. В конце книги помещен «Кибернетический манифест» Валентина Турчина и Клиффа Джослина, в котором имеются замечательные слова: «Воля человека к бессмертию является естественным продолжением воли к жизни» (с. 266). Авторы книги отдают себе отчет в крайней сложности и дискуссионности многих поставленных и обсуждаемых вопросов, среди них наблюдаются и некоторые расхождения, касающиеся оценки реализуемости, сроков и способов решения отдельных задач, трактовок процесса трансгуманистической эволюции и отношения к идеям некоторых представителей трансгуманизма. Тем не менее, все авторы открыты для обоснованной критики и творческих дискуссий, которые, по нашему мнению, очень актуальны и значимы. Очевидно, самые отчаянные скептики и решительные критики трансгуманизма, познакомившись с содержанием данной книги, смогут согласиться с тем, что возникшее направление в науке, философии и общественной жизни будет стимулировать развитие метафизики, эпистемологии, философской антропологии и многих других философских дисциплин. В.И. Кудашов, Н.В. Омельченко (Красноярск)
|
« Пред. | След. » |
---|