年収800万円以上 SparkのITエンジニア求人・転職情報

DATUM STUDIO株式会社

機械学習や統計モデリング、データ分析を活用して、お客様のビジネスに持続的成長と新しい可能性を創出するミッションに対し、プロジェクトマネージャーとして推進いただきます。 仮説の設定から必要データの入手・確認、分析手法の選定、検証を行うだけでなく、分析結果を元に、より深い分析計画や施策の改善提案等も行います。 また、プロジェクトの推進にあたっては、データ基盤の設計・開発・運用も担当いただきます。 プロジェクト事例 ●製造業向け機器の故障予測モデル開発 ●機械学習を用いたオークション落札価格の予測 ●金融業向け生成AIを活用した業務効率化 技術環境 言語:Python、SQL、Scala、Java DWH:Snowflake、BigQuery、Redshift データ基盤:Databricks、Spark、Presto、Hadoop BIツール:Tableau、Looker、PowerBI、Datorama、DOMOなど クラウド:AWS、GCP、Azure ETL/ELTツール: dbt、Fivetran、trocco、Airbyte、Talend、AWS Glue AIフレームワーク:VertexAI、SageMaker、AzureML IaCツール:Terraform、CloudFormation、Ansible

株式会社NTTデータ

OSSビジネス推進室は、Apache、Tomcat,、PostgreSQLなどよく使われているオープンソースソフトウェア(OSS)や、Hadoop,、Spark、Kafkaなどの大規模データを処理するために使われるOSSのサポートサービスや高難易度のプロジェクトへの適用や、課題解決、案件支援を行っています。 また、最近では、KVMを活用した仮想化基盤ソリューションを開発し、今後お客様に提供していく予定です。 本ポジションでは、事業部門と連携し、先進的/重要/高難易度のお客様プロジェクトに対し、OSSの提案を行い、プロジェクト計画策定までサポートを行います。 また、世の中の動向をキャッチし、OSSを活用したソフト、ソリューションを自ら企画し、お客様にご提案します。 市場・技術・顧客の変化に応じてマネージャーとして求められる役割も変化するが、メンバの採用から育成、メンバが担当する案件での直接のマネージメント、または技術戦略構想・マーケティング・ビジネスモデルの設計業務に従事する。 マネージメント対象となるメンバは下記業務に従事している。 事業部門と連携し、先進的/重要/高難易度のお客様プロジェクトに対し、OSSの提案を行い、プロジェクト計画策定までサポートを行う。 また、世の中の動向をキャッチし、OSSを活用したソフト、ソリューションを自ら企画し、お客様に提案する。

JAPAN AI株式会社

ミッション "AI の出力品質を科学する — 評価手法の研究・開発で、エージェントの信頼性を証明する" LLM / AIエージェントの出力品質を、機械学習・統計学・計量心理学の手法で定量的に評価・改善します。本ポジションは「テストする人」ではなく、 「何をもって良いAIとするかを定義し、測定する科学者」 です。 期待する役割について AI Evaluation Scientist として、AI エージェントの品質評価基盤の設計・構築・運用をリードしていただきます。 ●評価メトリクスの研究開発 — LLM-as-Judge の校正、報酬モデリング、ベンチマーク設計を通じて「何をもって品質とするか」を科学的に定義します ●自動評価パイプラインの設計・構築 — 研究成果を本番 CI/CD に組み込み、スケーラブルな品質ゲートを実現します ●レッドチーミング・安全性検証 — adversarial testing の自動化、ポリシー準拠検証フレームワークを構築します ●統計的実験計画に基づく品質改善 — A/B テスト・有意差検定でプロンプト戦略やモデル変更の効果を定量的に検証します ●評価シグナルの研究・開発チームへのフィードバック — モデル改善の複利ループを構築します 約 200 社が本番利用するプロダクトの品質を「科学する」アプローチで担保します 業務内容 AI Evaluation Scientistとして、 AIエージェントの評価基盤 (Evaluation Infrastructure) の設計・構築・運用をリードしていただきます。 ●評価メトリクスの研究開発 ・LLM-as-Judge の校正手法の研究・実装 (rubric 設計、バイアス検出、proper scoring rules) ・評価ベンチマークの設計・構築・妥当性検証 (construct validity、contamination detection) ・報酬モデリング / preference learning の評価への応用研究 ・評価メトリクスの選定・設計 (win rate、task success、factuality、harm detection) ・評価セット (合成データ + 実ログ) の設計・構築・メンテナンス ●自動評価パイプラインの設計・構築 ・スケーラブルな自動評価パイプラインの設計・実装 ・CI/CD への評価パイプライン組込みと品質ゲートの構築 ・エージェント評価ハーネスの設計 (マルチターン・ツール利用・ロングコンテキスト対応) ・評価パイプラインの再現性・信頼性の担保 ●安全性・品質検証 ・自動レッドチーミング (automated adversarial testing) の研究・実装 ・安全性 / ポリシー準拠の検証フレームワーク構築 ・ハルシネーション検出・校正手法の研究・実装 ・プロンプト / ツール回帰テストの設計・実行 ●統計分析・実験設計 ・統計的実験計画 (A/B テスト、有意差検定) の設計・分析 ・品質トレンドの可視化・回帰検出の自動化 ・品質レポート作成と改善提案 ・評価シグナルの研究・開発チームへのフィードバック 業務シナリオ ※以下は想定される業務シナリオの例です ●シナリオ1: LLM-as-Judge の校正と妥当性検証 新しい評価メトリクスとして LLM-as-Judge を導入する際、judge モデルの校正 (calibration) を実施します。人間評価との一致率を統計的に検証し、rubric 設計を反復改善します。construct validity を確認した上で、自動評価パイプラインに組み込み、評価コストを 80% 削減しながら人間評価と同等の信頼性を実現します。 ●シナリオ2: 新モデル導入時の品質ゲート LLMプロバイダーが新モデルをリリースした際、既存のベンチマークスイートで回帰テストを実行し、factualityスコアが3%低下していることを検出します。原因を分析し、プロンプト調整で品質を維持したまま新モデルへの移行を完了します。 ●シナリオ3: 自動レッドチーミングによる安全性検証 金融機関向けにJAPAN AI AGENTを導入する際、自動レッドチーミングパイプラインを構築します。adversarial promptの自動生成・分類器による脆弱性検出を実装し、業界固有のリスクシナリオ(機密情報漏洩、不適切な金融アドバイス等)を網羅的にテストします。ポリシー準拠率99%以上を達成します。 ●従事すべき業務の変更の範囲 会社の定める業務 成果責任 (KR/メトリクス) ●評価カバレッジ率(テストケース網羅率) ●回帰検出率(リリース前の品質劣化検出率 ≥ 95%) ●評価パイプライン実行時間(CI/CD内で完了) ●LLM-as-Judge と人間評価の一致率 ●False Positive / Negative 率 ●安全性インシデント発生率(リリース後) チーム体制 約120名が開発組織に在籍しています。 AI Evaluation Scientistは品質保証の専門チームとして、以下のチームと密接に連携します: ●密接に連携する役割: ・Agentic Product Engineer — エージェント機能開発 ・Research Engineer — 研究開発・モデル改善 ・Agent Harness Engineer / Software Engineer (AI Platform) — AI 実行基盤開発 ・Product Manager — プロダクト設計・品質要件定義 開発環境 ●言語 : Python (評価パイプライン・分析), TypeScript / React / Next.js (フロントエンド部) / NX ●評価 / QA : pytest, LangSmith, Weights & Biases, custom eval frameworks ●データ : BigQuery, Spark, Pandas ●インフラ : GCP (コンテナ / K8s), Docker, Terraform ●CI/CD : GitHub Actions ●ツール : Slack, Confluence, Linear, Google Workspace, GitHub, Notion ●AI 開発支援 : Claude Code MAX Plan, Cursor, ChatGPT, Devin ●作業環境 : Mac (Apple Silicon), デュアルモニタ対応

Japan Digital Design 株式会社

三菱UFJ銀行を中心にMUFG各社と連携し、AI技術を活用した業務の効率化・高度化を実現するプロジェクトにおいて、データ分析業務を担っていただきます。 具体的には以下のような業務があります。 ・MUFGにおけるビジネス課題解決のためのデータ分析や機械学習モデルの開発 ・顧客への分析結果の説明 ・AIに関する最新技術の調査・研究 ●プロジェクト例 ・市場動向分析モデルの構築 ・市場部門のフロント部署のための機械学習ツール開発 ・オルタナティブデータを用いた与信モデルの構築 ・アンチマネーロンダリング(AML)分野における分析支援 ●変更の範囲 場所:会社の定める場所(在宅勤務を行う場所を含む)

Japan Digital Design 株式会社

三菱UFJ銀行を中心にMUFG各社と連携し、AI技術を活用した業務の効率化・高度化を実現するプロジェクトにおいて、データ分析業務をリードしていただきます。 具体的には以下のような業務があります。 ・適切な課題設定を行い顧客へソリューションを提案 ・MUFGにおけるビジネス課題解決のためのデータ分析や機械学習モデルの開発 ・顧客への分析結果の説明 ・AIに関する最新技術の調査・研究 ●プロジェクト例 ・市場動向分析モデルの構築 ・市場部門のフロント部署のための機械学習ツール開発 ・オルタナティブデータを用いた与信モデルの構築 ・アンチマネーロンダリング(AML)分野における分析支援

株式会社日立製作所

【職務概要】 研究開発全般を担い、サービスコンピューティングに関わる先端技術(クラウド、OSS、IT開発・運用管理)を用いた、製品・サービスにおけるイノベーションと破壊的技術の創生のために、業務の取り纏め者として、社内の関係者との関係を構築し、社内外の学習機会を活用するとともに、自身の経験や先行研究から積極的に学習する。 自身の研究の完遂を通じて、最善の方法を生み出す。 これらの研究開発を通じて社会インフラのDX・GXを加速するサービスPF・ソリューションに貢献する。 【職務詳細】 ・サービスコンピューティングに関わる技術、業界動向、市場動向の調査 ・研究戦略・ロードマップの作成および研究提案 ・顧客課題を解決するための最良のアプローチや技術を選択・開発することにより、顧客ニーズに合った製品とサービスを定義、また、当該製品やサービスの価値を検証するためのプロトタイプ及びデモの開発 ・技術的専門性の観点から事業部門への情報提供ならびに提言 ・研究進捗管理、成果管理、論文執筆、社内研究報告の執筆、知財創生 働く環境 ①2～5名規模の単位でチームを作り、個々人がその技術の専門家として自主性を重視して開発内容を分担するとともに、他部門の研究者や事業部門のリーダおよびチームと連携して業務を進めます。 ②在宅勤務を主として、ブレインストーミングなどのディスカッションなど、必要に応じて出社して推進いただきます。(週1回程度、個人差あり。) ※上記内容は、募集開始時点の内容であり、入社後必要に応じて変更となる場合がございます。予めご了承ください。 キャリアパス 研究や技術に突出した高位専門職と、研究チームを牽引するマネージャ(プレイングマネージャ含む) 配属組織名 Digital Innovation R&D　デジタルインフライノベーションセンタ　サービスコンピューティング研究部 配属組織について サービスコンピューティングは、さまざまなITサービスを用いて、ビジネスとしてのサービスを実現するための技術や方法論を検討する研究分野です。 これを支えるアーキテクチャ、プラットフォーム技術、開発・運用技術、OSSを研究開発しています。 これらの研究開発を通じて、デジタルトランスフォーメーションを加速させ、社会イノベーションの実現に貢献します。 【携わる事業・ビジネス・サービス・製品など】 ●研究概要 https://www.hitachi.co.jp/rd/careers/lab/digtec/02.html ●研究紹介動画 https://www.youtube.com/watch?v=52w95xmNT_Y Trust Data Sharing and Utilization Infrastructure for Sensitive Data Using Hyperledger Projects https://ossalsjp21.sched.com/event/rCg7 機械学習を用いたIT機器の性能異常検知におけるAmazon SageMakerの活用事例 https://pages.awscloud.com/JAPAN-event-OE-20211125-AIML-reg-event.html A Fault Diagnosis Method for Fuel Injectors Using Machine Sound Tien-Trien Le, Takahiro Sagara, Shogo Kunioka, Satoshi Inose, 2020 International Conference on Sensing, Diagnostics, Prognostics, and Control (SDPC) https://ieeexplore.ieee.org/abstract/document/9353183 OpsSC: Decentralized Blockchain Network Operation Workflow for Hyperledger Fabric https://ieeexplore.ieee.org/document/9680558 ●関連事業 稼働音・測定データから建設機械の状態を診断するスマホ診断アプリ「ConSite® Health Check」を提供開始 https://www.hitachicm.com/global/jp/news-list_jp/20-03-23j/ 日立と〈みずほ〉が、ブロックチェーン技術を活用した金流・商流・物流の一体管理とサプライチェーンファイナンスの高度化に関わる実証実験を開始 https://www.hitachi.co.jp/New/cnews/month/2020/12/1228.html 「IT運用最適化サービス」において、AI活用によりシステム稼働レポート作成業務のさらなる自動化を実現 https://www.hitachi.co.jp/Prod/comp/soft1/jp1/notice/2020/1002.html マルチクラウド環境で、人のスキルに依存しないシステム監視と一元的な業務運用管理を容易にする「JP1」の最新版を販売開始 高信頼な運用基盤をSaaS型で利用可能な「JP1 Cloud Service」も新たに提供 https://www.hitachi.co.jp/New/cnews/month/2021/01/0121.html

三菱UFJインフォメーションテクノロジー株式会社

【ポジション概要】 世界有数の金融グループであるMUFG(S&Pグローバル,2020年4月)は、3,400万人の個人、100万社の法人のお客さま(MUFGレポート,2024年)のお取引情報をはじめとする膨大なデータを活用し、店舗におけるお客様対応・事務、本部バックオフィス業務も含めた多岐にわたる業務の高度化・効率化のため、画像・音声認識、自然言語処理、ロジック処理などあらゆる形態でAI・MLを活用しています。 三菱UFJ銀行をはじめとする事業部門と至近距離で協働し、ビジネス理解及びデータ分析タスクの設定、モデル構築を主体的に推進し、MUFGのビジネス変革・デジタライゼーション(DX)に大きく貢献いただける方を募集しています。 【業務内容】 (雇入れ直後) ・データ分析テーマの選定、データ分析プロジェクトの企画・推進 ・データ分析業務(設計・構築、データ解析、可視化、データ分析結果の評価等)を通じた業務革新・効率化 ・AIや機械学習を用いたモデル実装、運用を通じた銀行業務高度化 ・データの構造化・加工・分析処理等のデータエンジニアリング ・生成系AIの活用推進・分析への活用 (変更の範囲) 会社の定める業務 【業務内容】※補足 ・データ分析・AIモデル開発に加え、企画〜運用まで一貫して関与 ・ビジネス部門と連携し、課題設定から価値創出まで担うプロジェクト推進 ・不正検知、マーケティング、業務効率化など多様なテーマに対応 ・大規模データ(数千万件規模)を活用した分析・開発 ・MLOps等を用いたモデル運用・改善の高度化 【役割・責任】 ・MUFG事業部門と協働し、ビジネス課題からデータ分析タスクの抽出、評価基準を設定 ・データの前処理、モデル構築、モデル評価 ・業務特性を鑑みてモデルの運用、評価基準を設定および最適なシステムアーキテクチャを検討する ・当該領域の高い知識とスキルを持つプロフェッショナルとして、組織全体のデータサイエンスやデータエンジニアリングに関するスキル・知識の啓蒙・伝搬を担う。 ・開発エンジニアチームに対する技術的なリーダーシップ提供(ツール・インフラ整備・利用指南・コードレビュー・設計等)、およびコーチング・メンタリング。 【配属想定部署】 データサイエンス部(グループ事業部門・デジタルイノベーション本部配下) 【配属想定部署概要】 ・AI/データサイエンス推進に係る企画・推進・管理・取り纏め(※銀行と協働) ・AI/データサイエンスの人材開発、体制整備 ・データ分析業務 【配属想定部署の人員構成】 約50名が在籍。 若手社員から中堅社員まで幅広く在籍。 ・20代-30代のメンバーが大半 【おもな関係者】 各業務を所管するMUFG事業部門、社内開発チーム、外部企業等と、マネジメント層・メンバーを問わず、連携いただきます。 また、社内やMUFG全体に対する啓蒙活動や情報発信等を担っていただくため、社内マネジメントとの連携やレポーティング機会も多くあります。 学術機関、外部コミュニティ等との連携も積極的に実施いただきます。 【想定担当案件(例)】 銀行各部門の様々な業務に関連するデータ分析を行っていただきますが、以下のようなプロジェクトに携わっていただきます。 ・セールス部署への顧客動向分析、レコメンデーション提供 ・自然言語処理等を活用した銀行業務高度化 ・生成系AI活用案件 ・金融サービスに係わる不正検知 【インタビュー記事】 https://www.it.mufg.jp/recruiting/career/work/projects.html ・データサイエンス部：[データサイエンスで推進するMUFGのビジネス変革](https://www.bizreach.jp/job-feed/public-advertising/rgpw7g8/)

株式会社ABEJA

ミッション 「テクノロジーの力で産業構造を変革する」 お客様の抱える経営課題/事業課題を、機械学習(LLM含む)・統計・数理最適などデータサイエンスの力を駆使することで根本から解決へ導きます。 そのために、本ポジションでは、プロジェクトマネージャなどのビジネスサイドやエンジニアと密に連携しながら、要件定義・技術選定・モデル開発・運用まで、一連の流れを率いていただきます。 また、組織全体のパフォーマンスを最大化するため、メンバー育成やカルチャー醸成など多方面でリーダーシップを発揮し、ABEJAが描く未来を共に創っていただきます。 業務内容 プロジェクトマネージャやエンジニアと連携しながら、様々なデータサイエンス技術を駆使して、お客様の経営課題/事業課題を解決に導いていただくポジションです。 グループ全体のアウトプットが顧客満足に繋がるよう、シニアメンバーと共にその品質向上に務め、価値提供に向けて必要なアクションを取っていただきます。 ●データ分析、モデル作成データ要件の整理、技術スタック選定 ・データの前処理、EDA、可視化 ・最適な手法の調査・選定 ・モデルの作成、精度・性能評価 ・ディープラーニングを含む機械学習(画像・自然言語・構造化データ) ・大規模言語モデル(LLM)の活用(学習、推論含む) ・統計解析・因果推論などの統計モデリング ・数理最適化などの数理モデリング ●エンジニアと連携したモデルの商用実装 ・定期的なモデルのパフォーマンス評価、パフォーマンスの維持・向上(ML ops / LLM ops) ●提案活動、提案内容レビュー ・受注前のプロジェクトにおける顧客との折衝、プロジェクトの要件整理 ・整理した要件に基づく、提案内容のレビュー、実現可否判断 ・提案を魅力的にするための最新技術知見を踏まえた示唆だし ●技術の横展開・技術ブランディング ・実装ロジックの汎用化およびプロダクト化 ・技術ナレッジの公開(論文投稿・学会発表・勉強会登壇・Meetup、テックブログ等)

燈株式会社

急成長する自社プロダクトを技術で支える SRE を募集します。 最先端の LLM 技術を活用したプロダクトでは、ユーザー体験の根幹となる「サービスの信頼性」を追求します。 もう一方のプロダクトでは、将来の事業拡大を見据えた「インフラ刷新とコスト最適化」を、大きな裁量のもとリードしていただきます。 安定稼働と事業成長の両輪を支える、非常に重要なポジションです。 あなたの技術力で、プロダクトの未来を支えてください。 ●具体的には ・プロダクトの特性に合わせたSLI/SLOの策定と、モニタリング環境の設計・構築 ・外部API(LLM)連携部分の安定稼働に向けた、継続的な監視とプロアクティブなパフォーマンス改善 ・将来的なアクセス増加に耐えうる、スケーラブルなインフラ基盤の再設計と技術選定のリード ・クラウド利用料の継続的なモニタリングと分析に基づいた、インフラコストの最適化 ※これまでのご経験領域やお持ちの知識に応じて、可能な業務からご対応いただき、徐々に対応範囲を広げていただきます。 最初からすべての業務を担う必要はありません。 知識・技術をキャッチアップしながらバリューを発揮いただける方に、本ポジションをお任せしたいと考えています。 ●自社プロダクト紹介 [建設業特化のバックオフィスDXサービス「Digital Billderシリーズ」](https://www.lp.digitalbillder.com/) ・建設業に特化したバックオフィスDXサービス。 ・Digital Billder見積書・発注・請求書・経費精算の4サービスから構成されるシリーズ。 サービス累計700社以上が導入。 [建設業特化の生成AIサービス「AIコンストシェルジュ 光/Hikari」](https://hikari.akariinc.co.jp/) ・建設業特化のAIエージェント。 ・ローンチ1年で300社の契約を達成 [製造業特化の生成AIサービス「製造業AIエージェント 工/Takumi」](https://takumi.akariinc.co.jp/) ・製造業特化のAIエージェント。 ・2025年ローンチの新プロダクト ●技術スタック(一例) フロントエンド Typescript Node.js React Next.js バックエンド Typescript Node.js Python NestJS FastAPI GraphQL Hasura gRPC インフラ Terraform Kubernetes AWS Microsoft Azure AI Python Numpy Pandas Pytorch OpenCV AI開発支援ツールの導入 当社では、最新の AI 開発支援ツールを実務に組み込み、効率と品質を同時に高めています。 主な活用例は以下の通りです。 ●Devin :自動タスク実行により、同時並行での実装数を向上 ●Claude Code :自然言語から高度なコード提案・改善を行い、実装スピードおよび同時並行実装数を向上 ●v0.dev :高速な UI モックアップ生成により、要件確認を迅速化 ●GitHub Copilot :日常的なコーディング補助により、作業効率を底上げ ●Gemini :Deep Research や Python 実行を活用した情報検索・解析で、調査および設計の精度を向上