Professional Machine Learning Engineer — Questões de prática e simulado

Métodos de tokenização por subpalavras como SentencePiece e WordPiece são o padrão no NLP moderno. O TensorFlow Text implementa três tokenizadores de subpalavras: BertTokenizer (usa WordPiece, como no BERT), WordpieceTokenizer e SentencepieceTokenizer (usado por T5 e mT5). A tokenização por subpalavras quebra as palavras em unidades com significado (por exemplo, 'searchability' → 'search ##ability') e lida bem com palavras fora do vocabulário, mantendo o tamanho do vocabulário administrável (30K-100K tokens). O WordPiece usa um algoritmo guloso de correspondência mais longa primeiro; o SentencePiece independe do idioma e processa texto bruto sem pré-tokenização. A tokenização em nível de palavra falha com palavras nunca vistas. A de nível de caractere cria sequências longas demais. A baseada em regras não generaliza para idiomas diversos. Os modelos Gemini e PaLM do Google usam SentencePiece. Dica de prova: tokenização moderna de NLP = subpalavras (SentencePiece/WordPiece/BPE). Ref: www.tensorflow.org/text/guide/subwords_tokenizer

O Gemini Enterprise Agent Platform ML Metadata captura os metadados dos pipelines de ML como um grafo com três tipos de entidade: artefatos (datasets, modelos, métricas), execuções (etapas do pipeline) e contextos (execuções do pipeline), conectados por eventos. Isso cria um grafo de linhagem consultável que responde a perguntas como: 'Qual dataset foi usado para treinar este modelo?' e 'Quais hiperparâmetros geraram o modelo mais preciso?' O ML Metadata está sempre ativo — ele registra automaticamente todos os artefatos de entrada e saída de cada execução do pipeline. O Experiments on Agent Platform rastreia parâmetros e métricas para comparar experimentos, mas não oferece linhagem completa no nível do pipeline. O Cloud Audit Logs registra chamadas de API para fins de segurança, não as relações entre artefatos de ML. O Model Registry gerencia versões de modelos, mas não faz o caminho de volta até os datasets. Dica de prova: 'linhagem' ou 'proveniência' em pipelines de ML → Gemini Enterprise Agent Platform ML Metadata. Ref: docs.cloud.google.com/vertex-ai/docs/ml-metadata/introduction

O training-serving skew no nível das features costuma acontecer quando os pipelines de cálculo em lote e em streaming usam códigos diferentes. O Feature Store armazena e serve fielmente os valores que são gravados nele — se o pipeline em lote calcula uma feature com uma agregação ou normalização e o pipeline de streaming usa outra implementação, o modelo recebe no serving valores de features diferentes dos do treinamento. A documentação do Google observa: 'Sem um featurestore, você pode acabar com caminhos de código diferentes para gerar features entre o treinamento e o serving.' A solução é compartilhar a lógica de cálculo, de preferência com o Apache Beam, que oferece suporte aos modos de lote e de streaming. O Feature Store não restringe a ingestão mista, e sua camada de serving funciona corretamente. Overfitting é um problema do modelo, não do pipeline de features. Dica de prova: valores de features diferentes no online e no treinamento → verifique se a lógica de cálculo é a mesma. Ref: docs.cloud.google.com/vertex-ai/docs/featurestore/overview

O BigQuery ML permite criar modelos com SQL diretamente onde os dados estão. Para classificação tabular como a previsão de churn, o BOOSTED_TREE_CLASSIFIER (movido a XGBoost) é eficaz e exige pouquíssimo código: uma única instrução CREATE MODEL. Os dados nunca saem do BigQuery, o que elimina a complexidade de pipelines. O BigQuery ML oferece suporte a regressão linear e logística, k-means, ARIMA_PLUS, árvores com boosting, DNN e fatoração de matrizes. Exportar para o Cloud Storage para treinar um TensorFlow personalizado acrescenta um custo de infraestrutura desnecessário. O AutoML Tables exige exportar os dados. Modelos pré-treinados do Model Garden são voltados a dados não estruturados (texto, imagens), não a dados tabulares estruturados. Dica de prova: dados estruturados/tabulares já no BigQuery + pouco código → BigQuery ML. Ref: docs.cloud.google.com/bigquery/docs/reference/standard-sql/bigqueryml-syntax-create-boosted-tree