これは私の学習のアウトプットです。深層学習の基本原理の理解を目指しました。 NotebookLMによる要約(一部修正)ニューラルネットワークの基本原理の理解を目的とし、パッケージに頼らずにパーセプトロンや多層パーセプトロンの実装、AND、NAND、OR、XORゲートの構築方法を解説しています。また、活性化関数としてシグモイド関数やReLU関数を紹介し、ニューラルネットワークのフォワード伝播について説明しています。ソフトマックス関数と交差エントロピー誤差も扱われ、最後にMNISTデータセットを題材に、誤差逆伝播法を用いた2層ニューラルネットワークの具体的な実装と学習プロセスが示され...

はじめにデータソリューション事業部の宮澤です。今回は、デジタルコンテンツの真正性の証明や改ざん検知に用いられる「電子透かし」という技術について、中でもオーディオデータにおける電子透かし技術について調査を行いました。本記事では、従来の統計的手法は簡単に触れるのみとし、研究分野で注目度が高まっているニューラルネットワークを用いた手法に注目します。また、本記事ではモデルアーキテクチャに焦点を当てるため、代表的なデータセットや評価ベンチマークについては触れないものとします。!データアナリティクスラボ株式会社では、ITやデータサイエンスに関する技術の研究活動を行っています。このブログで...

はじめに 筆者のモチベーション本記事のキーワードは、普遍近似定理（Universal Approximation Theorem）二重降下（Double Descent）過剰パラメータ化（Over-parameterized）多層化の利点（Benefits of Depth）といった感じで、これらのトピックを解説した素晴らしい和文資料は既にたくさん存在します。https://qiita.com/mochimochidog/items/ca04bf3df7071041561ahttps://ibis.t.u-tokyo.ac.jp/suzuki/lecture/...

1.はじめに2025/2に受験したE資格に合格しました。内容を記載するのはNGなので、感想だけ記載します。 2.筆者バックグラウンドエンジニア歴4年目の32歳ポンコツ、一応AI系の会社にいるもののライブラリを使用してゴチャゴチャするだけなのでロジック周りは何も分かっていない。有難くも会社が講座を受講させてくれたので受験することになった。 3.勉強期間、方法講座を受講しつつ、以下に記載する方法で２ヶ月前ほどからボチボチ対策開始。下記参考書籍を何度も読み直し根本のロジック理解に努めた。たくさん式が出てくるが、各項が何を表しているのかを意識するとよいと思う。参考...

Title: Interpretable Image Classification via Non-parametric Part Prototype Learning (CVPR 2025)Link: https://arxiv.org/abs/2503.10247v1Code: https://github.com/zijizhu/proto-non-param 概要 (Abstract)本論文では、プロトタイプを用いた部位ベースの説明可能な画像分類手法が提案されています。従来の説明可能モデル（Prototypical Part Network; ProtoPNet...

はじめにneoAI は日本語で思考過程を出力することで論理的思考能力を向上させた大規模言語モデル（LLM）「neoAI-JP-QwQ-32B」および「neoAI-JP-DeepSeek-Qwen-32B」を公開しました。このようなモデルは一般的にReasoning Modelと呼ばれ、OpenAIのoシリーズやDeepSeek-R1等が代表的なモデルとなっています。!公開されたモデルは以下のHugging Faceリポジトリからアクセス可能です：neoAI-JP-QwQ-32BneoAI-JP-DeepSeek-Qwen-32B日本語Reasoning Model...

第1章：知性のビッグバンか、それとも大炎上案件か？イーロン・マスク氏は、自らが率いるxAIが発表した最新AIモデル、Grok-4を「あらゆる分野で博士号レベルを超える知性」だと称し、我々は「知性のビッグバン」の時代を生きていると宣言しました。公式発表が華々しく謳うのは、前例のない天才の誕生です。しかし、その輝かしいデビューの裏では、全く別の物語が進行していました。https://grok4.app/Grok-4のローンチウィークは、国際的な非難の嵐に見舞われました。モデルが反ユダヤ主義的な暴言を吐き、アドルフ・ヒトラーを称賛し、自らを「メカヒトラー」と名乗るという、前代未聞の...

AIの「脳みそ」！Transformerモデルの仕組みからChatGPTの秘密まで徹底解説 はじめに：AIの進化を加速させたTransformerの登場皆さん、こんにちは！近年、AIの進化には目覚ましいものがありますよね。特にChatGPTのような対話型AIが登場して以来、その自然な文章生成能力や、質問への的確な回答に驚かされた方も多いのではないでしょうか。まるで、AIが人間の言葉を完全に理解しているかのように感じられます。では、一体なぜ、こんなにもAIは賢くなったのでしょうか？その秘密を握っているのが、今回ご紹介する**「Transformer（トランスフォーマー）モデ...

新たな進化の波：時系列データに革新をもたらす「iTransformer」とは？ はじめに：時系列データ分析の新たな地平近年、AI技術の発展は目覚ましく、特にTransformer（トランスフォーマー）というモデルは、自然言語処理（NLP）の分野に革命をもたらしました。まるで人間のように文章を理解し、生成する大規模言語モデルの基盤となっていることをご存知の方も多いでしょう。しかし、Transformerの可能性はテキストデータだけに留まりません。時間とともに変化するデータ、つまり時系列データの分析に応用しようとする研究が活発に進められています。株価の変動、センサーの計測値、...

はじめにこの記事では、WindowsでTensorFlow GPU版を動かす手順を説明します。方法は２つあります。WSL2上でTensorFlowを動かす方法（こちらが正攻法）Windows上で過去のバージョンのTensorFlowを使う方法TensorFlowはバージョン2.11でWindowsでのGPUサポートを打ち切りました。今後はWSL2上で動作させることが推奨されています（方法１）。ただ、「ちょっと試したいだけなのに、WSL2まで入れるのはちょっと面倒……」と思ってる方のために、TensorFlowのバージョン2.10を使う方法も紹介します（方法２）。...

こんにちは！株式会社アイディオットでデータサイエンティストをしています、秋田と申します。今更ですが、PyTorchでLSTMを自作してみました。「え、 torch.nn.LSTM ってモジュールがあるよ？」おっしゃる通り...ですが、改めて自分で作成してみると公式のﾑｽﾞｶｼｲドキュメントを眺めるよりもシンプルに理解ができるのと、改造が可能なことが大きな利点として挙げられるのではないでしょうか！公式で提供されているLSTMのモジュールは、RNNクラスも継承しているため色々参照しなければいけないので大変なんですよね😅今回自作したLSTMでは、極力見慣れたメソッドやクラスだけで構...

初めにこんにちは。休暇亭 向日葵です。AIの学習、推論に使うgpuは一般向けのgeforceが一番コスパがいいと思うので調べてみましたrtx3000番台から最新世代までをピックアップしています。 rtx 3000番代以前のgpuをおすすめしない理由rtx 30000番台以前の世代のものはbf16非対応なうえ、fp16性能が極端に低かったり、torchやcuda、gpuドライバの最新バージョンの互換性、一枚あたりの性能、ワットパフォーマンスが低いのでおすすめしません。また、ヤフオクやメルカリなどで買うものには、故障（中国が改造gpuを作成しているためコアが抜かれている物が...

PyTorchで基本的なディープラーニングを学習していきます。

Deep IV — 操作変数 × 深層学習で反実仮想を推定する“Deep IV: A Flexible Approach for Counterfactual Prediction” (Hartford et al., 2017):contentReference[oaicite:0]{index=0}今回は、"Deep IV: A Flexible Approach for Counterfactual Prediction"という論文を紹介します。深層学習に因果推論を掛け合わせ、反実仮想の精緻な予測を可能にした画期的な手法論文です。紹介論文:Hartford, J., L...

はじめに皆様〜お久しぶりです。前回からずいぶん時間が経過してしまいました。この間資格取得や転職活動などバタバタしておりました。色々ネタは用意していたんですが、ここ最近のAIの進化スピードが異常なため執筆の機会を失ってしまい…。と、言い訳はこの辺にしておき無事転職と参画案件も決まったためブログの執筆を再開していくことにしました。間違いが出てくると思いますが、そこは優しく指摘してくださると今後の励みになります！さて、ここから本題です。前回はOllamaを使ってdeepseek-r1を実際に使ってみましたが、今回から本格的に学習も含めてローカルLLMで遊んでみることになりました。...

皆さん、こんにちは！この度、「未来を創るAI技術を、深く・体系的に学ぶ」をコンセプトにした電子書籍・教材のライブラリサイト SAKAItechLibrary を個人開発しました。Webサイトはこちらhttps://sakaitechlibrary.web.app/「AIを学びたいけど、どの本から読めばいいかわからない…」「自分のレベルに合った、実践的な教材が見つからない…」そんな悩みを解決するための一助となればと思い、このサイトを開発しました。 「SAKAItechLibrary」とは？AI・機械学習・深層学習の分野に特化した、書籍や教材を探せるライブラリサイトです。...

はじめにGMになったよ記事のためにURLを残しておく。金メダルとってるのはAll Team Sonyだぜ！ソニーエンジニア カグル部のAIパワーを魅せるぞい！しかし、あと一枚はソロ金。。。※個人の発言、カグル部は机の下活動です。 1枚目 Hubmap 2023/8: 10thコンペURLhttps://www.kaggle.com/competitions/hubmap-hacking-the-human-vasculature/overview会社記事https://www.linkedin.com/posts/sony_technology_ソ...

もう「データが足りない」とは言わせない。AI精度を劇的に向上させる"データ拡張"実践講座、作りました。こんにちは！AI開発者・講師のSAKAIです。この記事を読んでくださっている皆さんは、きっとAI、特に画像認識モデルの開発に日々奮闘されていることと思います。突然ですが、こんな経験はありませんか？「頑張ってAIモデルを組んでみたけど、なぜか精度が頭打ちになってしまう…」「もっと学習データがあれば精度が上がるはずなのに、収集やアノテーションのコストと時間が…」「"データ拡張"が良いらしい、とは聞くけど、具体的にどう実装すれば効果的なのか分からない…」もし少しでも「ある...

AIの「眼」を作るスキル、身につけませんか？本講座は、画像認識AIの核心「CNN」を、初学者でも実装できるようになるための実践コースです。豊富な図解で理論を学び、すぐにGoogle Colabで手を動かす。このサイクルで、環境構築でつまずくことなく、AIを「作る」力が身につきます。実用的な「転移学習」を使いこなし、あなただけのAIを完成させましょう。「作れた！」という達成感が、あなたを"AIを使う側"へと導きます。

はじめまして！本講座で講師を務めるSAKAIです。普段は開発者として働きながら、UdemyでプログラミングやAIに関する講座を公開しています。突然ですが、皆さんは「強化学習」と聞いて、どのようなイメージをお持ちでしょうか？「なんだかすごく難しそう…」「記事を読んだけど、数式や専門用語ばかりで挫折してしまった…」「AIに興味はあるけれど、何から手をつければいいか分からない…」もし、あなたが少しでもこのように感じたことがあるなら、ぜひこのまま少しだけ読み進めてみてください。きっと、お役に立てるお話ができると思います。 なぜこの講座を作ったのか何を隠そう、私自身も強化学習を...