Главные мифы о ChatGPT

Что умеет ChatGPT и в чем секрет его популярности? Как эффективно использовать искусственный интеллект в образовании и бизнесе? Заменят ли нейросети человека и если да, то в каких сферах?

В подкасте обсудили «восстание машин» с Яном Чикнизовым, Alfamobile Java TechLead, евангелистом нейросетей. А еще попросили ChatGPT написать сценарий к этому выпуску и посмотрели, что из этого вышло (спойлер: чат-бот неплохо справился!).

Расшифровка подкаста

Сегодня мы, можно сказать, обсуждаем восстание машин. Поговорим о нашумевшем ChatGPT, сможет ли он заменить человека в некоторых сферах, какие компании уже внедряют этот сервис в работу, и как при этом обеспечить безопасность данных пользователей. А еще в этом выпуске мы немножечко помучаем ChatGPT, как без этого, и зададим ему несколько коварных вопросов. Меня зовут Анастасия, я редактор социальных медиа ВШЭ. Разбираться во всех тонкостях искусственного интеллекта сегодня я буду разбираться вместе с Яном Чекнизовым. Ян –  backend-techlead в Альфабанке, и, можно сказать, евангелист, проповедник нейросетей, который несет искусственный интеллект в массы. Ян, привет.

— Всем привет.

— Давай начнем по порядку. Понятно, что уже многие слышали про ChatGPT, но мы обязаны устроить ликбез в нашем подкасте. Что такое  ChatGPT простыми словами?

— На самом деле, GPT – это сама технология, с помощью которой построены все нейросети. Нас же интересует то, что для нас ChatGPT стал не технологией, а  словом, нарицательным для всех текстовых ботов в интернете. Их огромное количество, огромное множество, у нас занимаются этим и наши российские компании, и зарубежные. Но можно понять сам контекст, саму пользу, которую они приносят. И обращаясь к твоему вопросу, все текстовые чат боты можно назвать GPT моделью.

— Тогда почему именно ChatGPT взорвал сети, почему именно о нем начали говорить, когда уже разные варианты искусственного интеллекта были?

— Тут надо понимать контекст. Раньше, чтобы обработать определенный текст, узнать позитивный или негативный, нужна была одна нейросеть, для того, чтобы узнать, есть ли какие-то запрещенные темы для этого, нужна другая нейросеть. А ChatGPT принес то, что он из коробки под собой умеет делать все эти операции, содержит огромное количество параметров, как меряются нейросети сейчас, по параметрам, и предоставлял интерфейс, который в режиме реального времени тебе отвечал, как будто кто-то на обратной стороне тебе ручками набивает сообщение. Так работает сама нейросеть. Наверное, совокупность этих факторов, плюс, все же он продукт от Майкрософт, условно, Майкрософт инвестировали кучу денег.

— Мы об этом еще поговорим сегодня.

— И он за пять дней набрал миллион пользователей, чтобы вы понимали для контекста, там 100 млн., он за два месяца набрал 100 млн. пользователей, чтобы вы понимали, Тиктоку, ближайшему конкуренту по количеству пользователей потребовался почти год, чтобы набрать такую аудиторию. И тут самое главное, мы обращаемся к тому, а почему такая большая аудитория? Потому что функции и вау эффект, которые предоставляет эта нейросеть прямо из коробки, заслуживает такое количество пользователей. Но возвращаясь к тому, что все это было и раньше, но собранное в одном месте, выстрелило у ChatGPT и опен и ай.

— Open AI, если мы чуть-чуть про них поговорим, как они появились и насколько давно они существуют на рынке?

— Насколько давно они появились – в районе 3-4 лет назад. Суть в том, что они появились, они пособирали денег, у них было несколько раундов сбора инвестиций, у них все было нацелено на то, чтобы создавать свои GPT-модели. Наверное, все помнят этот бум 2019 года, когда все говорили, что программисты будут больше не нужны, есть нейросеть, которая помогает дописывать коды за тебя. И в тот момент такие все – вау, программистов уволят. Сейчас 2023 год, и пока никого не уволили. Но мысль осталась, что был продукт, который уже способен был выполнять огромное количество операций, но он был не настолько крутым, как это произошло с ChatGPT.

— Проверила информацию, Гугл в помощь, 11 декабря 2015 года основание.

— Уже 8 лет получается.

— Ты начал говорить про такие продукты, где заменяется функционал человека, и это было немного такой паникой для общественности, которая думает, что сейчас программисты будут не нужны, сейчас думают, что дизайнеры будут не нужны, и еще несколько кейсов приведу в качестве примера. Условно, в начале года мы говорим про ChatGPT, и он прошел собеседование в Гугл на должность младшего инженера программиста уровня джуниор. Тут возникает вопрос, если он обошел систему и ему удалось каким-то образом заменить человека, как тогда дальше, ChatGPT будет работать вместо того же самого инженера программиста на грейде джуниора, как ты думаешь?

— Пройти не означает работать. Ту про собеседование очень важно понимать, что задачи, которые обычно задают на собеседованиях, они не про то. Что давай создадим новый инновационный продукт по типу ChatGPT, согласись?

— Конечно.

— Это уже какие-то выработанные паттерны, выработанные шаблоны, которые позволяют оценить кандидата на то, будет ли он справляться со своими дей бай дей задачами каждый день. И, наверное, в этом контексте да, шаблонные операции, которые мы все не любим делать, он может выполнить и может пройти, это точно. Но если брать какие-то сложные задачи, обсуждать реализации, – это немаловажные задачи в разработке. И зачастую на разработку тратят меньше времени, чем на размышления о том, а как же это сделать. Наверное, помочь программисту в этих размышлениях ChatGPT сейчас может, но заменить его точно нет. Во всех этих вопросах я бы ориентировался на то, что это не про замену на данный момент, это про то, что условный разработчик – неважно, кто – может взять и использовать его как инструмент, как нечто, что поможет ему избавиться от рутинных задач или поможет ему информацией, наряжу с Гуглом.

— Как мы теперь можем говорить, ChatGPT тебе в помощь.

— Да. Гугл уступает сейчас по тем вопросам, которые мы можем решить с помощью ChatGPT.и наверное, я отвечу на вопрос, нет, не будет, не сможет он выполнять, как ты хочешь, задачи джуниора в Гугле.

— Тут еще вопросы про гибкость, мне кажется. Потому что в любой работе возникают задачи, где нужна именно твоя способность адаптироваться под изменения, адаптироваться под какую-то срочную задачу, нестандартную, не факт, что ChatGPT с этим конкурирует на уровне человека.

— Нет, адаптироваться он может, он всегда адаптивен к тому, что ты ему заносишь.

— Но вопрос, какая задача, тут спорный, на самом деле.

— Надо не забывать, это текстовый интерфейс, можно к нему прикрутить какие-то варианты взаимодействия с чем-то, с отдельными внешними сервисами, с почтовыми клиентами и так далее. Но это текстовый вариант взаимодействия, он не сможет подойти, похлопать тебя по плечу и сказать, что все хорошо.

— То есть эмоциональной поддержки, эмпатии от ChatGPT ты не получишь, это правда. Раз мы начали сыпать кейсами в нашей дискуссии, то я добавлю еще один свеженький пример. Это немецкий таблоид Bild, он решил заменить журналистов искусственным интеллектом. Принято решение, что сотрудники будут заменены ChatGPT из-за финансовых проблем. Об этом сообщил своим работникам владелец издания Axel Springer, сказав – к сожалению, мы расстаемся с людьми, чьи задачи сможет выполнить ИИ. И тут сразу начнет кричать та часть общественности, которая скажет – мы же говорили, все, теперь эти профессии исчезнут, что делать, восстание машин. Что ты думаешь на этот счет, есть ли риск, что из-за популярности ChatGPT часть профессий в каких-то сферах исчезнет, и как ты думаешь, кого это коснется в первую очередь?

— Тут важно понимать, что мы уже проходили подобные этапы. Паровой двигатель, сколько мест рабочих изменил! Понятно, что многие были уволены, но все быстро изменилось, и то количество вакансий, которые создал этот паровой двигатель, гораздо больше, чем вред, который он нанес общественности. И возвращаясь к вопросу, а уволит ли вас нейросеть – вы уже второй раз спрашиваете.

— Да. Потому что он больной и животрепещущий.

— Поймите, а вашу работу можно автоматизировать и легко ли ее автоматизировать? Если вы перекладываете условный предмет А с места на место и все, никакой уникальности в этом нет, и это можно заменить прямо сейчас, то это обязательно заменят в будущем. Но если вы делаете творческую работу, не в плане того, что вы пишете какие-то хитрые статьи, а в плане того, что вы делаете инновационные открытия, то, наверное, увольнение это не про вас. И все еще непонятный момент, мы говорим, уволит нас ChatGPT, не уволит, но мы упускаем такую вещь, что все компании содержат груз историчности. У них есть какие-то старые продукты, которые они воссоздают и поддерживают, у них есть определенный человек, который сидит за…

— …определенным столиком с определенной лампой.

— Да, и должен знать, кто он, чтобы решить твою важную задачу. И весь этот контекст не так легко и просто загрузить в ChatGPT, чтобы он выдавал магические ответы на все ваши вопросы. Безусловно, можно, но пока сейчас не существует такого продукта.

— Смотри, мы с тобой сейчас активно разобрали истории со страхами жуткими, насчет того, что машины заменят человека, такое будущее апоккалиптичное, здесь сразу возникает вопрос этики всегда. Из нашумевших кейсов, напомню нашим слушателям, очень активно обсуждалась новость, как студент РГГУ получил диплом, который он написал при помощи чат бота ChatGPT и при этом оригинальность диплома составила 82%. Вопрос – как теперь знания человека проверять?

— Это, безусловно, будет революция в этом плане. А как вы в принципе определите человека, который написал этот текст, не зная его?

— Не зная его, контекст не зная. Я могу привести пример, высказывание Евгения Соколова, это руководитель департамента больших данных и информационного поиска Факультета компьютерных наук в Вышке. Он недавно давал интервью «Коммерсанту», где говорил об искусственном интеллекте в том числе и в образовании. И он сказал – что касается студентов и дипломных работ, написанных с помощью искусственного интеллекта, мое мнение такое: пусть авторы пользуются чем угодно, но при этом несут полную ответственность за все, что написано в тексте. Один недосмотренный абзац, один неосторожный запрос к лингвистической модели, и она будет утверждать в тексте диплома, что дважды два равно пяти. Лично я буду снижать оценку за такое по всей строгости. Согласен ли ты?

— Да, конечно, согласен. Тут вопрос, как относиться к этому. Да, это инструмент, Гугл тоже инструмент, библиотека – это тоже своего рода инструмент. И наверное, это про осознанность, насколько осознанно ты используешь этот инструмент. Если ты захотел скопировать текст, который он предоставил, один в один, даже не прочитав и не поняв сути того, что он тебе предложил, наверное, это использование нам не интересно. Но если ты посоветовал с нейросетью, как сделать то или иное лучше, добавил абзац, который ты сгенерировал, чтобы облегчить себе работу, то в этом плане я, как teamlead, всецело «за». Если кандидат, которого я собеседую, честно скажет, что я прошел тестовое задание перед собеседованием с помощью ChatGPT, я скажу – красава, ты умеешь пользоваться этой технологию, мы с тобой сработаемся, но есть важный момент, надо понимать, а не знает ли он только, как писать в ChatGPT, а больше абсолютно ничего не знает. Это надо тестировать, надо итеративно подходить к этому вопросу. Понимать и думать, а нужен ли вам такой сотрудник, который не умеет пользоваться Гуглом?

— К вопросу о том, что ты сказал, про какие-то функции, которые может заменять человека, мы сегодня говорили о том, что можно пройти в Гугл на позицию джуниора. Вопрос, как быть тогда дальше, мидл, сеньор, какая у них судьба, они еще могут быть человеками, или придет искусственный интеллект?

— Да, это к вопросу. А вот возьмем и заменим всех джуниоров искусственным интеллектом, а как появятся мидлы и сеньоры, как мы их будем заменять? Забавная статистика. Было проведено исследование, где посмотрели количество открытых вакансий по грейдам, по уровням, и количество соискателей из тех, кто написал резюме и ищет работу. Статистика такая: на 4 тыс. стажеров, которые сделали свое резюме, приходится 2 тыс. вакансий. Вроде бы нормальная статистика. На 8 тыс. соискателей, которые хотят стать джуниорами, приходится 4 тыс. вакансий, тоже неплохо. И мы складываем сеньоров и мидлов, получаем 180 тыс. вакансий и 800 резюме.

— Серьезно?

— Да. Это настолько дикая нехватка кадров у нас в айти.

— Давайте подключим ChatGPT, раз у нас такая проблема несоответствия спроса и предложения.

— Они сейчас это не могут делать, и у айтишников, кем я рекомендую становиться, так растет зарплата, потому что это рынок. Спрос рождает предложение, а предложение некем покрыть, и ты даешь больше денег и к тебе хотят все приходить. Но как видно, даже если мы стажеров и джуниоров плюсуем, мы даже не получим близко 10% от тогго, что требуется на рынке.

— Тут ты немножко успокоил нас, в том числе, слушателей.

— А нейросети делают еще больше вакансий на рынке. Сейчас чуть ли не каждый ленивый пытается построить, особенно в США, где венчурные фонды очень развиты, стартапчик, который будет брать условный ChatGPT и писать крутой шаблон и у него все будет работать. Посмотрите, многие продукты, которые сейчас продаются под видом новых и инновационных, по факту под собой содержат ChatGPT, во-первых. И во-вторых, они еще берут в два раза больше от цены подписки на него и выдают это за свой контент. Но по факту во многие компании сейчас внедряется в том или ином виде искусственный интеллект.

Внедрили, добавили. Строят новые продукты и в целом хорошо себя чувствуют в этом плане. К чему я это говорю? Практически в любой продукт можно добавить в каком-то месте искусственный интеллект, чтобы он либо облегчал, либо делал что-то за тебя. Просто нужно понять, куда и как добавить. Наверное, вот эта профессия в будущем будет очень хорошо востребована. Это такой специалист по внедрению GPT.

— Ты начал говорить про примеры российских компаний. Я хотела тебя спросить, что у нас на российском рынке. ты упомянул конкретно рынок ритейла,, но вопрос еще с тем же финтехом. Тебя, как человека из Альфабанка, я не могу не спросить. Плюс Вышка и Альфа банк подписали соглашение, в рамках которого планируют развивать образование в сфере финтеха, может быть, какие-то гениальные банковские технологии появятся, благодаря этому сотрудничеству. Как ты думаешь, что насчет применения ChatGPT конкретно в финансовой сфере? Сейчас уже есть голосовые помощники, которые помогают отделаться от мошенников, или искусственные интеллекты, которые защищают данные клиента. Можешь ли ты привести еще какие-то примеры?

— Отличные примеры, это верхушка айсберга. На самом деле, хотелось бы, чтобы почти все рутинные операции вместо нас делали роботы. Так мы освободим свои руки и разум от того, чтобы делать все более и более крутые инновационные продукты. Сегодня ребята из академии говорили, что академия – это внутреннее обучение сотрудников у нас. Они говорили, что методолог пишет недели две какой-то тренинг. А ребята попробовали написать с помощью ChatGPT, получили все те же правильные этапы, которые они хотят, но за 15 минут.

— И методолог начал плакать где-то в уголке.

— Да, где-то плачет методолог, но мы же не про то, что кто-то плачет, а кто-то не плачет, мы же про качество и персонализацию, про то. Что все это будет более эффективно, чем сейчас.

— А вы не сравнивали качество, получившееся от ChatGPT и от методолога?

— Так глубоко я не погружался.

— Но было бы интересно посмотреть, кто лучше справился с этой задачей.

— Наверняка. 15 минут – это эталонное время, а по факту взять, докрутить, поменять местами, и условно за, это тоже несопоставимые цифры, но уже гораздо быстрее, чем в случае с людьми, и вполне качественно. Получается так, что внедрять технологию. В банках – это нужно и важно, но стоит не забывать про то, что все-таки безопасность.

— Мы к ней подбираемся семимильными шажками. У меня к тебе вопрос по такому факту, что 20 марта ChatGPT Open AI была вынуждена временно отключить сервис из-за утечки данных. И если мы говорим про финансовые технологии, где это особенно важно, где хранятся данные клиентов, как там все эти действия обезопасить? Чтобы не получилось так, да, мы молодцы, мы внедрили эти технологии, а в итоге привет утечке данных.

— Это очень хороший вопрос.

— Нехороший?

— Хороший.

— Мне послышалось.

— Хороший и нехороший, по Фрейду. Безопасность – это очень важно, и вот ты озвучила, что произошли сливы данных. Но тут нужно понимать, как это работает физически. Нейросеть учится на данных. Эти данные получают обычно из открытых источников интернета, просто «скрапя» веб-страницы и данные целиком. Это выглядит так, что ты берешь тестовую страницу, засовываешь ее в нейросеть, и она там уже учится на ней. И важно понимать, если вы открыли доступ, он хоть и находится на каких-то неизвестных IP-адресах, но он есть, и этот доступ прямо физически, куда нейросеть может получить доступ и сделать запрос, то она будет учиться на этих данных.

Так что компаниям, которые не закрыли все свои персональные страницы с какими-то чертежами и т.д., стоит задуматься, а нет ли у них нигде дырки безопасности, из которой торчат все эти секретные данные. А с точки зрения технологии, она просто взяла, получила эти данные, распарсила их, преобразовала в свой формат, сохранила в себе, обучилась на них и в целом чувствовала себя хорошо. При этом она не знала, что использовала чужие персональные данные, для нее эти данные ничем не отличаются от страницы с котиками разных пород в интернете.

Надо понимать, что одна сторона этой монеты – это то, что ты выставил секретные данные наружу и он их «заскрапил» и сейчас их выдает. А другая сторона этой монеты – это то, что ты выдаешь данные в нейросеть, а это могут быть персональные данные пользователей. Вопрос безопасности стоит очень остро, поскольку многие злоумышленники начали пользоваться ChatGPT для того, чтобы персонализировать свои скам-механики, методологию. Тебе уже не просто пишет принц из Африки…

— …который неожиданно обнаружил твое наследство

— А тебе пишет твой персонализированный друг, который давно не писал, давно не был в соцсети.

— Ох уж эти сообщения – привет, одолжи пять тысяч.

— И уже не просто одолжи пять тысяч, а будет с тобой диалог вести, потом невзначай вставит «Привет. А можешь деньги одолжить?». Раньше это упиралось в то, что люди нужны, а сейчас все за тебя делают роботы.

— Мошенникам можно очень хорошо обогатиться.

— Они это делают, на самом деле.

— И в конце, как мы и обещали, небольшая история про то, чтобы немного помучить ChatGPT. Мы уже упоминали в выпуске. Что где—то плачет один методолог. Я, мне кажется, тоже начала бы уже плакать, потому что я решила проверить, как ChatGPT справится с тем, чтобы подготовить сценарий к выпуску подкаста, к нашему с тобой. Сценарий сначала составила я, потом мне стало интересно, и я решила сравнить. Понятно, что я не вкладывала больших усилий, это как раз к разговору про инженеров, то есть, я не добавляла ему больше условий. Я ему просто дала запрос – придумай сценарий подкаста об искусственном интеллекте. Он мне, во-первых, дал слова ведущей, он сказал – добрый день, дорогие слушатели, сегодня мы поговорим об одной из самых актуальных тем нашего времени, искусственном интеллекте. Какие-то шуточки он не прописывает, но может, если его попросить добавить что-то.

— У него будет плохо получаться.

— Да, это к разговору о том, что не сможет он заменить человека. Мне нравится, что он придумал мне гостя. Я его не просила об этом, потому что подкасты есть разные, может быть, это был бы мой монолог. Но он мне придумал гостя. Гость – привет, меня зовут Алексей, выдал мне имя сам.

— Привет.

Оказывается, я говорила не с Яном, а с Алексеем. Дал ему послужные списки – привет, меня зовут Алексей, я работаю в области искусственного интеллекта уже больше 10 лет.

— Раньше, чем развилась эта индустрия.

— Раньше, чем все это появилось. Хотя, с другой стороны, искусственный интеллект, наверное, еще в фантазиях прошлого века, наверное, и раньше.

— Да, вполне себе. Так что 10 лет опыта – это нормально.

К разговору о фантазиях, это все, о чем ты сегодня говорил. Я думаю, что первое, что нужно понять об искусственном интеллекте, это говорит выдуманный Алексей, это не какая-то магия или фантастика, это просто компьютерные алгоритмы, которые позволяют машинам делать определенные задачи.

Прокомментирую слова Алексея. Для меня раньше искусственный интеллект представлялся как, таким набором магических операций. Но по фату это огромное количество логичных блоков и ты там лавируешь между этим. И все то. Что мы видим на экране про искусственный интеллект, надо понимать, что его написали люди, а люди не могли не выдумать магию, потому что ее не существует.

— Алексей, с тобою бы, наверное, мог поспорить, хотя тут есть момент. Что где—то вы похожи. У меня уже мозг сейчас плавится, что я нахожусь в компании с выдуманным Алексеем, сейчас Ян показывает на третий стул в нашей студии, где мы представляем себе Алексея из ChatGPT. Вопрос, который придумал ChatGPT – какие еще мифы связанные с искусственным интеллектом? Алексей отвечает – наверное, один из самых распространенных мифов это то, что он может стать угрозой человечеству, но на самом деле искусственный интеллект создается людьми, контролируется ими. Кроме того. машины не могут двигаться без команды человека, о чем мы сегодня и говорили.

— Отлично. Чек-лист пройден, я уже почти как нейросеть.

— Все, наверное, мы скажем, что у нас в гостях была нейросеть Ян из Альфабанка, новая разработка. Это такая небольшая рубрика, которая неизбежно должна была возникнуть в нашем подкасте, раз мы говорим про ChatGPT, но интересно. Что я просто потратила 2 минуты, если бы я добавила, какие вопросы мне хочется, приведи какие-то конкретные кейсы в этих вопросах, примеры на практике, как компании его используют, может быть, получилось бы что-то похожее на наш сегодняшний диалог. Единственное, пока еще не озвучивают.

— Озвучивают.

— Но не в такой форме, как это делают ведущие подкаста, но я просто отсчитываю,  сколько мне еще удастся поработать.

— Можно добавить, что уже существует искусственный интеллект, который, в который ты загружаешь все свои видео, если ты блоггер, а подкасты иногда снимают в видео формате, поэтому это тоже подходит, и он может на определенном количестве видеоматериала воссоздать твою цифровую копию и за тебя снимать контент.

— О господи! И такая нейросеть, что и голос твой?

— Ты загружаешь все, и она все делает. Ты выдумываешь сценарий. Она может за тебя сценарий ролика написать, она знает твою манеру говорить, умеет так же выражаться.

— Но всегда есть момент импровизации в беседе, потому что никто не отменял локальные шуточки, конкретно связанные с нашим общим культурным фоном, условно, шутка в этих ваших интернетах, как какой-то мем, я не знаю, когда он зародился, 2007-й условно, сможет ли ChatGPT органично интегрировать это в нашу беседу? Я сомневаюсь.

— На самом деле, я сомневаюсь не только по поводу органичности внедрения. То, что она сейчас в принципе делает корявенько, ты можешь отличить. Но это сейчас.

— И ухмылочка у тебя зловещая.

— Физически в 2019 году Big Pilot все высмеяли. Что это, зачем это нужно, оно нормально не работает. И я высмеивал, в своем докладе я показывал, что он неспособен делать даже легкие операции. Но прошло 4 года, тогда он был построен на GPT3, а сейчас он построен на GPT4, который Х, и сейчас уже не смешно.

— И поэтому мы нервно смеемся.

— Да, нервно.

— Мне кажется, что мы подробно распотрошили ChatGPT со всех сторон. И вопросы безопасности, и вопросы этики, и вопросы того, заменит или не заменит, быть или не быть, вопрос, который появляется везде, в разных медиа. И я думаю, что  наши слушатели может быть, немножко успокоились, может быть, как методолог рыдают где-то в сторонке, не знаю, это уже им решать. Я думаю, что в любом случае это было очень полезно и интересно, особенно для тех, кто сейчас пытается это применять в работе. Задумывается над тем, что животное под названием ChatGPT можно приручать, и не нужно этого бояться.

— Я его сравнивал с быком, приручение быка. Потому что мне DALL-E нарисовал приручение дикого искусственного интеллекта как приручение быка.

— Неплохо, можно так и назвать –  «ChatGPT: как приручить быка». Хорошее название для нашего выпуска. Это был очередной эпизод подкаста «Ворона желает знать», сегодня у меня в гостях был Ян Чекнизов, Ян, спасибо тебе большое.

— Спасибо. Произошла задержка.

— А все потому, что я с ChatGPT разговаривала. Тут слушатели поняли, вот случился баг. Или это человеческий фактор.

— Не становитесь специалистом по рутинным операциям, и вас не заменит нейросеть.