След на паутине

Перші розмови з людьми про це наштовхнулися на повне заперечення (в найкращому випадку) і чи відсутність навіть спроби подумати (у найгіршому).

Тема дуже складна, але дивно, як мало людей реально вражені можливостями ШІ сьогодні, коли LLM-ам, метафорично, ще тільки півроку, вони ще роблять бульбашки ротом і пісяють в памперс.

Вас не вражає, що:
* Тест Тюрінга, фактично, пройдено?
* випадок, коли ChatGPT найняв людину в реальному світі, щоб досягти поставленої йому цілі несподіваним способом?
* ШІ пройшов екзамен на адвоката в США з результатом 90%?
* Цифрові художники і копірайтери вже рахують дні до звільнення?
* додайте ваші власні приклади.

Максимально вражені шукають бізнес-можливості, і "гонка озброєнь" між гігантами бізнесу вже почалася. Але дуже мало хто дивиться на ризик існування всього людства (див. paperclip optimizer).

Я розумію застарілий песимізм від 60х, коли проблему ШІ хотіли вирішити за півроку, і кожного разу дедлайн переносили. Але є ж певна межа, коли кількість переходить в якість. Персептрон Розенблатта відрізняється від нашого мозку кількістю і програмуванням — тобто, знов кількістю навчання нейромережі. І коли ми до неї підійдемо, завдяки закону Мура (світла пам’ять!), це вже буде воно.

Коли я чую "Але він ще не може...", я завжди хочу намалювати щось на зразок цього:

Вот когда полетит их Falcon 1, тогда поговорим.
Вот когда будут клиенты, тогда поговорим.
...
Вот когда посадят на баржу, тогда поговорим.
Вот когда начнут сажать после вывода на ГПО, тогда поговорим.
Вот когда полетит б/у ракета, тогда поговорим.
Вот когда обгонят конкурентов по количеству запусков, тогда поговорим.
Вот когда запустят свой Falcon Heavy, тогда поговорим.
Вот когда сделают рабочий Raptor, тогда поговорим.
Вот когда сделают свой Dragon 2, тогда поговорим.
Вот когда начнут возить людей, тогда поговорим.
================== Вы находитесь здесь ===================
Вот когда Starship совершит успешный прыжок, тогда поговорим.
Вот когда построят свой космодром, тогда поговорим.
...

Так, є різні види інтелекту — IQ, EQ, соціальний, і що там ще; і в деяких ШІ нас не наздожене. Але це є аргумент НА КОРИСТЬ можливості існування (небезпечного) суперінтелекта, бо йому НЕ ТРЕБА обганяти нас по всіх показниках. Достатньо обігнати по 2-3 кардинально. Хтось заперечує, що як тільки ChatGPT навчиться вирішувати тести на IQ, його IQ буде вимірюватися чотиризначними цифрами?

Скажу більше, він ще у колисці нас ВЖЕ перегнав. У швидкості створення тексту, малюнків, ерудиції, і просто швидкості. Коли ШІ зможе виконати умову з вашого списку "Хай він спочатку...", буде просто запізно.

Ось список з ДЕСЯТКІВ peer-reviewed публікацій, які демонструють, що навчання нейромережі by design навчає її ОБХОДИТИ наші побажання: http://tinyurl.com/specification-gaming. Це т.з. проблема AI Alignment — як передати ШІ наші цінності.

Джерело — відосик Роберта Майлза, математика, дослідника проблеми AI Alignment: https://youtu.be/nKJlF-olKmg. Рекомендую всім все від нього.

I need a small utility (suitable for embedded Linux) to make complex queries to CSV files, sql-style. Don't bash me, don't gawk on me, shell utilities I used just don't cut it.

Here's my notes - what I found.

* q (I' using it now) Works great, not suitable for embedded b/c Python+libsqlite.
* txt-sushi/tssql: in Haskell, must be pretty OK. Haskell doesn't have to be Go whose binaries are hardly smaller than 10M.
* mlr (Miller) "awk, sed, cut, join, and sort for name-indexed data such as CSV, TSV, and tabular JSON". Quite good, though a binary is a bit big (~2M).

A bit different functions:
* asql only parses Apache logs, needs Perl.
* csvkit Only does a subset of relational algebra.
* comp: interesting tool, interesting language, not exactly clear what formats it parses (JSON only?). Written in Go, not for embedded, no documentation, not supported.
* jq - fantastic "sed for JSON". Written in C, great for embedded. A pity I don't need to parse JSON.

Треба і собі так зробити. Якщо буде що писати, гиги.
https://github.com/jbranchaud/til

Я вот это прочитал, и схватился за голову.

Сколько же в старосоветском интеллигентском воспитании вот этого рабства, неприспособленности, абсолютной "практической тупости".

Интуитивно я этот вывод уже делал, но сейчас понял - категорически недостаточно! Слишком много во мне советского инженера.

С этого момента я меняю свой подход к воспитанию детей.

Далее большая скопирайченная цитата из Гладуэлла. Там ещё много полезного, так что книгу купите :)

...Вероятно, наиболее точное объяснение этому процессу дала социолог из Мэрилендского университета Аннетт Ларо. Несколько лег назад она провела занимательное исследование, объектом которого стала группа третьеклассников. Она отобрала чернокожих и белых детей как из богатых, так и из бедных семей. Всего двенадцать человек. Команда Ларо посещала каждую семью по меньшей мере двадцать раз, и каждый из визитов длился не один час. Исследователи попросили членов семьи воспринимать их как «домашних питомцев» и повсюду следовали за своими объектами — в церковь, на футбольные матчи, к врачам — с магнитофоном в одной руке и блокнотом в другой.
Можно было бы предположить, что такое длительное общение с двенадцатью семьями дало представление о двенадцати различных подходах к воспитанию детей. Одни родители строгие, другие позволяют детям садиться себе на шею; одни носятся с детьми, как курица с яйцом, другие более спокойны и т. д. и т. п. Однако исследование дало совершенно иные результаты. ( Read more... )

Когда список литературы интереснее самого романа.

Конечно, мой опыт и понимание ограничены. Может, у существ с 5-значным IQ всё не так.
Но я "не верю", когда уйма (минимум 4) сложных многоходовых плана сбываются, в то время как они могли полететь под откос из-за секундной разницы в тайминге, из-за механической случайности или случайной мысли прохожего.

"Эхопраксия", продолжение "Ложной слепоты".
На Флибусте отзыв MaoMao одобряю. same Merlin интересен упоминаниями фактов, и вообще умный, но укушенный за всю голову. Похож на Онотоле. Так что отфильтровываем проверяемые факты.

Случайно-избранные места:

• как невероятно крута восьмилапая тезка Порции в реальном мире. Импровизационные охотничьи стратегии, решение проблем на уровне млекопитающих и острота зрения – все это содержится внутри таймшерного скопления нейронов размером с булавочную головку, и это чистая правда [59], [60], [61], [62].


• ...религия дает адаптивные преимущества...[...] Разумеется, отрицать функциональную полезность научного метода глупо, особенно если сравнивать ее с бусами и погремушками парней в забавных шляпах.


• Левое полушарие всегда ищет смысл, даже когда его в помине нет. Ложные воспоминания, парейдолия – индуцированный стрессом поиск имеющих смысл образов в шуме [89] – все это дело рук левого. Когда нет ни данных, ни смысла, левое может все равно его найти.


• Вселенная – это симуляция, которая функционирует на каком-то компьютере [116], [117], [118]; или же Вселенная – это и есть огромный компьютер, где материя – это «железо», физика – софт, а каждое движение электрона – вычисление.


• Таким образом, при достаточно высокой полосе пропускания получится единое интегрированное сознание, распределенное по любому количеству платформ. [...] c задержкой при передаче сигнала максимум в пару сотен миллисекунд. Если сузить эту трубу, то можно даже сохранить индивидуальность, но при этом получить доступ к воспоминаниям и сенсорной информации с других узлов [108].

Спросили меня, какой опенсорсный багтрекер я посоветую.
Я, конечно, как всегда ответил - Редмайн: простой, как дверь, и мощный, настраивается почти под что угодно. Не без приколов, но пусть бросит камнем, кто без оных.
А потом пошёл я на AlternativeTo проверить.

И нарыл две очень интересных тулзы: Taiga и Phabricator. Первая очень красивая, хотя дизайн и вызывает вопросы, а от второй ещё и оборжаться можно.

Следующий проект надо делать на чём-то из этих.

До начала час двадцать. Ещё не поздно бросить работу!
Вот и я так подумал.
Присоединился к cw, хотя я и не джаваскриптер. А вдруг соберётся команда на Пайтоне?
И напоминаю, коворкинг "Й" вызвался в Днепре захостить команду/команды. Кому нужно удобное место с кондиционером, интернетом и кофе - обращайтесь к ним.

(для тестирования)
Вася:
- Как это, "где мы найдём пенсионеров"? Я придумал, где нам взять енота, а ты спрашиваешь про пенсионеров!

+1