副業OK SparkのITエンジニア求人・転職情報

ソフトバンク株式会社

【ミッション】 「ソフトバンクの持続的成長・ビジネススピードの加速に貢献する」をミッションとし、安定したサービス提供とAIなどを活用した生産性向上を実現し、ビジネス部門を巻き込み、革新的なサービスを生み出すことを目標としています。 【主な業務】 ・通信事業におけるビジネスパートナー精算システムの開発 ・業務分析/要件定義から開発リリースまでの一連の工程のシステム開発と保守や、社内横断的なプロジェクトの遂行や業務企画推進、新たなIT技術の推進や導入検討 【具体的な業務】 ソフトバンクサービスにおけるビジネスパートナー精算などのバックヤード系システムをご担当いただきます。 ・社内システムにおける設計、開発、テストの実施 ※新システムの内製化を目指しており、入社後は本チームでの開発業務が中心になる想定です。 【環境】 プログラミング言語: Java, SQL フレームワーク: Spring Boot, Apache Beam 分散処理・クエリ基盤: Apache Flink, Trino データストア: Apache Iceberg (on HDFS), MySQL, Hive インフラ・環境: 仮想環境(Linux / MIRACLE LINUX) コンテナ・オーケストレーション: Docker, Kubernetes CI/CD・ビルド: GitLab CI/CD, Jenkins, Maven

Japan Digital Design 株式会社

三菱UFJ銀行を中心にMUFG各社と連携し、AI技術を活用した業務の効率化・高度化を実現するプロジェクトにおいて、機械学習モデルの開発および実装、保守をしていただきます。 具体的には以下のような業務があります。 ・MUFGにおけるビジネス課題解決のための機械学習モデルの開発 ・機械学習モデルとその周辺機能の実装 ・AIに関する最新技術の調査・研究 ＜プロジェクト例＞ ・市場動向分析モデルの構築 ・市場部門のフロント部署のための機械学習ツール開発 ・オルタナティブデータを用いた与信モデルの構築 ・ビジネスマッチングのマッチングアルゴリズムの開発 ＜変更の範囲＞ 業務:会社の定める業務

Japan Digital Design 株式会社

三菱UFJ銀行を中心にMUFG各社と連携し、AI技術を活用した業務の効率化・高度化を実現するプロジェクトにおいて、データ分析業務を担っていただきます。 具体的には以下のような業務があります。 ・MUFGにおけるビジネス課題解決のためのデータ分析や機械学習モデルの開発 ・顧客への分析結果の説明 ・AIに関する最新技術の調査・研究 ●プロジェクト例 ・市場動向分析モデルの構築 ・市場部門のフロント部署のための機械学習ツール開発 ・オルタナティブデータを用いた与信モデルの構築 ・アンチマネーロンダリング(AML)分野における分析支援 ●変更の範囲 場所:会社の定める場所(在宅勤務を行う場所を含む)

Japan Digital Design 株式会社

三菱UFJ銀行を中心にMUFG各社と連携し、AI技術を活用した業務の効率化・高度化を実現するプロジェクトにおいて、データ分析業務をリードしていただきます。 具体的には以下のような業務があります。 ・適切な課題設定を行い顧客へソリューションを提案 ・MUFGにおけるビジネス課題解決のためのデータ分析や機械学習モデルの開発 ・顧客への分析結果の説明 ・AIに関する最新技術の調査・研究 ●プロジェクト例 ・市場動向分析モデルの構築 ・市場部門のフロント部署のための機械学習ツール開発 ・オルタナティブデータを用いた与信モデルの構築 ・アンチマネーロンダリング(AML)分野における分析支援

株式会社Sun Asterisk

社内における、DataOps推進のためのデータ利活用するための基盤設計、データ戦略立案、データガバナンスのプランニングなどを行っていただきます。 DMBOKの思想などを理解したうえで現代のデータを元に事業が動くために必要な要件に取り組んでもらいます。 【業務詳細】 社内データ基盤のアーキテクチャ設計を主導 既存データインフラ環境の分析や、改善提案。 具体的なアプローチの提示 データガバナンスのポリシーの策定と推進 自社内のチームや他部署と連携し、データ基盤プロジェクトの推進

ソフトバンク株式会社

【ミッション】 企業向けシステム開発において、CDP、クラウド、データ統合基盤などの最先端技術を駆使し、顧客のDX推進および業務改革を実現するためのSE支援を提供 【主な業務】 ・CDPやデータ統合基盤などの先端技術を活用した法人顧客向けシステムの提案から要件定義、実装までの各工程をリード ・プロジェクトマネジメントおよび顧客との直接交渉、調整業務 ・社内外のパートナーと連携し、システム構築および導入を促進 【具体的な業務】 ・提案・設計:顧客要件をもとにCDP、データ分析、クラウドを取り入れたシステムの提案、要件定義、設計書の作成 ・実装・開発:生成AIを含むウェブアプリケーションおよびデータ基盤の開発、ETL処理やデータ統合基盤環境のシステム実装 ・プロジェクトマネジメント:社内メンバーや協業パートナーの統括、進捗管理、品質・リスク管理、定例顧客折衝の実施 ・ドキュメント管理:提案書、設計書、計画書、テスト仕様書などの各種文書の作成および整備 ・技術調整:技術的な折衝およびトラブルシューティングによる問題解決の実施 ※全ての募集における雇い入れ後の、従事すべき業務・就業場所の変更の範囲については下記の通りとします。 ●業務の変更の範囲:会社内でのすべての業務

パーソルクロステクノロジー株式会社

●業務概要 パーソルグループ企業もしくは提携企業にて顧客や社内の部門に対して、お客様が保有する様々なデータを活用可能な形に処理し、データ分析のための基盤構築をお任せします。 データサイエンティスト/アナリストが行う仕事の基盤をつくり、お客様が抱える課題を解決まで導く業務となります。 ●業務詳細 ・データ収集・連携 　└外部SaaS/業務システムなど異なるソースからのデータ取り込み 　└バッチ開発やストリーミング処理 ・データ基盤の設計・構築・運用 　└DWH・DB・テーブルの設計(SQL、スキーマ、パーティショニング) 　└クラウドインフラの構築(AWS/GCP/Azure)、セキュリティ・ネットワーク設定、コスト最適化 ・データ整備・品質管理 　└ETL/ELTパイプラインの実装(dbt、Apache Kafka、Apache Spark) 　└データモデリング(スタースキーマ・Snowflake)、メタデータ管理、データカタログ整備 ・データ品質監視 　└検査ルール、データガバナンスの設定 　└アラート対応、テスト設計 ・提供・可視化支援 　└分析用マートの提供、BIツールへの接続最適化・可視化(Looker、Tableau、Power BI) ・運用・信頼性 　└パイプラインの監視・障害対応・パフォーマンスチューニング 　└Gitによる変更管理 プロジェクト例 ●Databricksを用いたデータ基盤の設計構築 <業務内容> 　・Databricks上のデータ基盤の設計/構築/検証 　・SAPのテーブルをDatabricksに連携 　・S3のテーブルをDatabricksに連携 　・ストリーミングテーブルの実装、ジョブ作成 <技術> 　Databricks, PySpark, SparkSQL, PowerBI, Git ●dbtを用いたETL、データパイプライン構築 <業務内容> 　・データパイプライン構築、フロー図作成 　・Bigqueryからのデータ抽出、データマートの設計・開発 　・ワークフローの監視 　・バッチ処理開発・運用 　・Tableauダッシュボードの設計・構築・運用 <技術> 　GCP(Bigquery,GCS), dbt, Tableau, Git

株式会社Sun Asterisk

当社では「アイデアを持つパートナー（起案者）」に対して、サービスデザインから技術選定、開発までを一気通貫で提供しています。 スタートアップの開発支援から大手企業の新規サービス立ち上げまで様々な規模のプロジェクトがあり、その中でもパブリッククラウド環境でのデータウェアハウス構築を担うデータエンジニアとして業務を担っていただきます。 【業務詳細】 ・パブリッククラウド（AWS、GCP、Azure など）上でのデータ基盤・データパイプラインの設計、構築、運用 ・データ収集、加工、ストレージに関わるシステムの開発 ・大規模データを対象としたETL (ELT) 処理の最適化 ・リアルタイムデータの処理 ・データクレンジング処理やデータマートの構築 ・データの可視化および分析基盤の構築支援 ・データパイプラインの品質管理、パフォーマンスの向上 ・データウェアハウスの運用保守 ・ステークホルダー（データアナリスト、データサイエンティストなど）との連携 ・顧客との要件定義や設計フェーズでのコミュニケーション