Transformers supported operations API

Subpackages

• common.input package
  • Submodules
  • common.input.utils module
  • Module contents
• common.model_utils package
  • Subpackages
    • common.model_utils.sparsity package
      • Module contents
  • Submodules
  • common.model_utils.count_lines module
  • Module contents
• common.pytorch package
  • Subpackages
    • common.pytorch.layers package
      • Submodules
      • common.pytorch.layers.AlibiPositionEmbeddingLayer module
      • common.pytorch.layers.AttentionHelper module
      • common.pytorch.layers.AttentionLayer module
      • common.pytorch.layers.BCELoss module
      • common.pytorch.layers.BCEWithLogitsLoss module
      • common.pytorch.layers.BiaslessLayerNorm module
      • common.pytorch.layers.CTCLoss module
      • common.pytorch.layers.CosineEmbeddingLoss module
      • common.pytorch.layers.CrossEntropyLoss module
      • common.pytorch.layers.EmbeddingLayer module
      • common.pytorch.layers.FeedForwardNetwork module
      • common.pytorch.layers.GPTJDecoderLayer module
      • common.pytorch.layers.GaussianNLLLoss module
      • common.pytorch.layers.HingeEmbeddingLoss module
      • common.pytorch.layers.HuberLoss module
      • common.pytorch.layers.KLDivLoss module
      • common.pytorch.layers.L1Loss module
      • common.pytorch.layers.MSELoss module
      • common.pytorch.layers.MarginRankingLoss module
      • common.pytorch.layers.MultiLabelSoftMarginLoss module
      • common.pytorch.layers.MultiMarginLoss module
      • common.pytorch.layers.NLLLoss module
      • common.pytorch.layers.PoissonNLLLoss module
      • common.pytorch.layers.RMSNorm module
      • common.pytorch.layers.RelativePositionEmbeddingLayer module
      • common.pytorch.layers.SmoothL1Loss module
      • common.pytorch.layers.Transformer module
      • common.pytorch.layers.TransformerDecoder module
      • common.pytorch.layers.TransformerDecoderLayer module
      • common.pytorch.layers.TransformerEncoder module
      • common.pytorch.layers.TransformerEncoderLayer module
      • common.pytorch.layers.TripletMarginLoss module
      • common.pytorch.layers.TripletMarginWithDistanceLoss module
      • common.pytorch.layers.utils module
      • Module contents
    • common.pytorch.metrics package
      • Submodules
      • common.pytorch.metrics.accuracy module
      • common.pytorch.metrics.auc module
      • common.pytorch.metrics.cb_metric module
      • common.pytorch.metrics.dice_coefficient module
      • common.pytorch.metrics.fbeta_score module
      • common.pytorch.metrics.mean_iou module
      • common.pytorch.metrics.mean_per_class_accuracy module
      • common.pytorch.metrics.metric_utils module
      • common.pytorch.metrics.perplexity module
      • common.pytorch.metrics.precision_at_k module
      • common.pytorch.metrics.recall_at_k module
      • common.pytorch.metrics.rouge_score module
      • Module contents
    • common.pytorch.model_utils package
      • Subpackages
      • Submodules
      • common.pytorch.model_utils.BertPretrainModelLoss module
      • common.pytorch.model_utils.GPTLMHeadModelLoss module
      • common.pytorch.model_utils.RotaryPositionEmbeddingHelper module
      • common.pytorch.model_utils.T5ForConditionalGenerationLoss module
      • common.pytorch.model_utils.activations module
      • common.pytorch.model_utils.convert_checkpoint module
      • common.pytorch.model_utils.create_initializer module
      • common.pytorch.model_utils.weight_initializers module
      • Module contents
    • common.pytorch.optim package
      • Submodules
      • common.pytorch.optim.ASGD module
      • common.pytorch.optim.Adadelta module
      • common.pytorch.optim.Adafactor module
      • common.pytorch.optim.Adagrad module
      • common.pytorch.optim.AdamBase module
      • common.pytorch.optim.Adamax module
      • common.pytorch.optim.CSOptimizer module
      • common.pytorch.optim.Lamb module
      • common.pytorch.optim.Lion module
      • common.pytorch.optim.NAdam module
      • common.pytorch.optim.RAdam module
      • common.pytorch.optim.RMSprop module
      • common.pytorch.optim.Rprop module
      • common.pytorch.optim.SGD module
      • common.pytorch.optim.lr_scheduler module
      • common.pytorch.optim.utils module
      • Module contents
    • common.pytorch.sparsity package
      • Submodules
      • common.pytorch.sparsity.appliance module
      • common.pytorch.sparsity.finalizer module
      • Module contents
    • common.pytorch.summaries package
      • Submodules
      • common.pytorch.summaries.cb_summary module
      • common.pytorch.summaries.scalar_summary module
      • common.pytorch.summaries.tensor_summary module
      • Module contents
  • Submodules
  • common.pytorch.PyTorchBaseModel module
  • common.pytorch.dump_context module
  • common.pytorch.gradient_clipper module
  • common.pytorch.half_dtype module
  • common.pytorch.input_utils module
  • common.pytorch.loss_utils module
  • common.pytorch.perf_utils module
  • common.pytorch.pytorch_base_cs_runner module
  • common.pytorch.pytorch_base_runner module
  • common.pytorch.pytorch_cs_appliance module
  • common.pytorch.pytorch_dist_runner module
  • common.pytorch.pytorch_runner module
  • common.pytorch.run_cstorch_flow module
  • common.pytorch.run_utils module
  • common.pytorch.utils module
  • Module contents
• common.run_utils package
  • Submodules
  • common.run_utils.cli_parser module
  • common.run_utils.cli_pytorch module
  • common.run_utils.utils module
  • Module contents

previous

vision.pytorch.losses package

next

common.input package