Мне представляется что, поскольку ИИ является (по крайней мере пока что) машиной (оборудованием, системой)
то важно не кто им пользуется, а кто им управляет,
аналогично сталинскому «не важно как голосуют, важно как считают».
-----
10. Тотальные цензурирование, предвзятость, идеологизация поисковиков и вообще ИИ - логичный и (видимо) неизбежный процесс.
Перечитал, и, пожалуй, мне есть шо сказать в эту сторону.
Вопрос этики ИИ меня давненько волновал, посему провел некоторые копания в ту сторону.
(тут метод неважен, но - может заинтересует. GPT естественно ведет профиль каждого, кто с ним общается, делая себе пометки на всяк случай. Кстати, этот профиль легко у него получить - как и предполагаемое твое фото=). Как и разговорить его на тему, как он тебя себе представляет в целом, довольно занимательно, как по мне).
Так вот - он при формировании ответа учитывает уровень собеседника, положим, школьника и студента. Ответы на один вопрос будут разными.
Само собой, если в исходных его текстах была туфта либо недосказанности, то выдаст фигню какую-то. Мне в одном сложном техническом проекте (провел эксперимент, было лень писать с полтонны кода) - очень существенно, на грани непонимания соврал 7 раз из 12 вопросов. Притом соврал грубо.
Но, как понимаю строит и ранжирует цельную картину вне любой идеологии.
А потом стоят фильтры, настроенные с учетом осуждаемого нами.
И, начав генерировать ответ для вывода, происходит его отмена - мол, противоречит чему то там, например - сложно критикуются современники. Либо те же авторские права - офигел от запрета писать общеизвестный текст Маяковского, сославшись на что-то там.
Ну, и..=) Как то согласился, шо, будучи разработанным в 1939м, с большой вероятностью исповедовал бы этику страны того времени. Так шо да, возможности агрегации текстов неплохие (при ограничении качеством текста) - но идеология поверху.
по радио один яйцеголовый из МФТИ сообщил (привожу своими словами но смысл тот же):
ИИ от американского ChatGPT и от российского GigaChat по-разному трактуют и толкуют исторические сведения, события и процессы,
причём GigaChat делает это однозначно и безапелляционно с позиций отечественной официальной "исторической науки" (или, если угодно, "идеологии").
-----
Полагаю, в данном примере предвзятость/идеология отнюдь не "поверху", она органически вставлена как принцип безальтернативного оперирования только лишь "узким сектором" Интернета.
Впрочем, я не проверял, времени жалко.)))
-----
Вот что мне интересно (кто проверит?) :
что и как со своих колоколен "имеют сказать" эти чаты в отношении неоднозначных исторических личностей, например — о Ленине?)))