
パーソルクロステクノロジー株式会社
DX456【首都圏/DX】ハイ/データアーキテクト
●業務概要
パーソルグループ企業もしくは提携企業にて顧客や社内の部門に対して、お客様が保有する様々なデータを活用可能な形に処理し、データ分析のための基盤構築をお任せします。
データサイエンティスト/アナリストが行う仕事の基盤をつくり、お客様が抱える課題を解決まで導く業務となります。
●業務詳細
・データ収集・連携
└外部SaaS/業務システムなど異なるソースからのデータ取り込み
└バッチ開発やストリーミング処理
・データ基盤の設計・構築・運用
└DWH・DB・テーブルの設計(SQL、スキーマ、パーティショニング)
└クラウドインフラの構築(AWS/GCP/Azure)、セキュリティ・ネットワーク設定、コスト最適化
・データ整備・品質管理
└ETL/ELTパイプラインの実装(dbt、Apache Kafka、Apache Spark)
└データモデリング(スタースキーマ・Snowflake)、メタデータ管理、データカタログ整備
・データ品質監視
└検査ルール、データガバナンスの設定
└アラート対応、テスト設計
・提供・可視化支援
└分析用マートの提供、BIツールへの接続最適化・可視化(Looker、Tableau、Power BI)
・運用・信頼性
└パイプラインの監視・障害対応・パフォーマンスチューニング
└Gitによる変更管理
プロジェクト例
●Databricksを用いたデータ基盤の設計構築
<業務内容>
・Databricks上のデータ基盤の設計/構築/検証
・SAPのテーブルをDatabricksに連携
・S3のテーブルをDatabricksに連携
・ストリーミングテーブルの実装、ジョブ作成
<技術>
Databricks, PySpark, SparkSQL, PowerBI, Git
●dbtを用いたETL、データパイプライン構築
<業務内容>
・データパイプライン構築、フロー図作成
・Bigqueryからのデータ抽出、データマートの設計・開発
・ワークフローの監視
・バッチ処理開発・運用
・Tableauダッシュボードの設計・構築・運用
<技術>
GCP(Bigquery,GCS), dbt, Tableau, Git